На линию
Способности на главной линии · ЕДИНАЯ МУЛЬТИМОДАЛЬНАЯ МОДЕЛЬ

Мультимодальное понимание

СутьК 2024 году одна модель смогла совместно работать с текстом, изображениями и звуком, а не передавать их между отдельными системами.

ИИ начал воспринимать ситуацию целиком: видеть экран, слышать речь и отвечать почти в реальном времени. Следующая задача — устойчиво понимать длинное видео и причинные связи.

СтатусПРОЙДЕНО
ТипСпособности на главной линии
Отметка2024
Событий в досье8
Хронология развития

Исследовано

2021-01

CLIP

О событииОбщее пространство для текста и изображений — фундамент, на котором выросла вся генерация картинок.

подтвержденоОтдельная страница

CLIP обучалась сопоставлять изображения с текстовыми описаниями из интернета и тем самым поместила две модальности в общее пространство признаков. Это позволило задавать визуальные категории словами без отдельной разметки под каждую задачу и стало важной опорой для последующих генеративных и мультимодальных систем.

Источник: OpenAI
2022-09

Whisper

О событииРаспознавание речи дошло до уровня, при котором звук стал обычным входом, а не отдельной задачей.

подтвержденоОтдельная страница
Источник: OpenAI
2023-04

Segment Anything

О событииОдна модель научилась выделять произвольные объекты по точке, рамке или текстовой подсказке без обучения под каждый класс.

подтвержденоОтдельная страница
Источник: Meta AI
2023-12

Gemini

О событииGoogle представила семейство моделей, изначально рассчитанное на совместную работу с текстом, изображениями, звуком и видео.

подтвержденоОтдельная страница
Источник: Google DeepMind

В процессе

сейчас

Понимание длинного видео

О событииЧас записи модель уже принимает, но следить за сюжетом и причинами внутри него ещё не умеет.

Дальние перспективы

впереди

Осязание и запах

О событииМодальности, для которых пока нет ни дешёвых датчиков, ни больших наборов данных.

Источники и исследования

Первоисточники, на которых основано досье: научные публикации, материалы лабораторий и официальные отчёты.

Направления
Способности на главной линии