Начал свою деятельность как центр по исследованию языка идиш: её члены вели работу по собиранию языкового и фольклорного материала в городах Восточной Европы. Они были озабочены тем, что культура идиша быстро изменялась под влиянием модернизации жизни, и спешили зафиксировать её в исходном состоянии. Никто не предполагал, какому уничтожению она вскоре подвергнется.
Институт декларировал свою внепартийность. Он пользовался поддержкой многих сионистов. В 1930-е годы в Польше он организовал выставки многих еврейских художников, в том числе Марка Шагала.
В 1940 году, в обстановке Второй мировой войны, американский филиал YIVO взял на себя функции центрального отделения. С тех пор институт базируется в Нью-Йорке. Филиалы Института есть в Чикаго, Буэнос-Айресе и других городах.
Часть библиотеки YIVO в Вильнюсе, содержавшей более 100.000 томов и огромное количество архивных материалов, была уничтожена нацистами. Остатки библиотеки, вывезенные в Германию, были возвращены в нью-йоркский центр после войны. Туда же поступило около 5000 ценных архивных документов и редких книг, спасенных узниками Виленского гетто. В Нью-Йорке под руководством Макса Вайнрайха была налажена работа по подготовке нового поколения ученых и были вновь созданы библиотека, насчитывающая более 300.000 томов, и архив (более 10 млн единиц хранения). Библиотека Института является одной из самых богатейших. В 1968 г. был создан Центр высших исследований с межуниверситетскими курсами и семинарами по фольклору и литературе на идиш и языку идиш.
Ежегодно институт проводит шестинедельные курсы по изучению языка и культуры идиш (программа имени Уриэля Вайнрайха – сына Макса Вайнрайха).