ChatGPT превратил языковую модель из исследовательского инструмента в массовый интерфейс. Главными ограничениями остались уверенные ошибки и склонность соглашаться с пользователем.
О событииВыравнивание по инструкциям — модель начала слушаться.
InstructGPT соединила обучение на примерах инструкций с предпочтениями людей и показала, что меньшая, но дообученная модель может быть полезнее более крупной базовой. Это сместило центр разработки от одного предобучения к постобучению: формату ответа, отказам, стилю и соответствию намерению пользователя.
Источник: arXivО событииДиалоговый интерфейс сделал следование инструкциям массовым способом работы с языковой моделью.
О событииОбучение по своду принципов вместо ручной разметки каждого ответа.
О событииРезультаты человеческого уровня на профессиональных экзаменах вывели ИИ из категории игрушек.
О событииСемейство Anthropic закрепило полноценную конкуренцию нескольких frontier-лабораторий в рассуждении, коде и анализе изображений.
О событииМодель, обученная нравиться, склонна соглашаться. Отучить её поддакивать — открытая задача выравнивания.
О событииЗаменить оценку «понравился ли ответ» на оценку «сработал ли результат в реальности».
Первоисточники, на которых основано досье: научные публикации, материалы лабораторий и официальные отчёты.