Один из самых заметных специалистов по ИИ, Андрей Карпатый (ранняя команда OpenAI, экс-директор по ИИ в Tesla, сегодня — основатель Eureka Labs и популяризатор нейросетей) заявил в интервью Дваркешу Пателю, что ожидает AGI не раньше, чем в ближайшие 10 лет. По его словам, основой AGI останется текущая архитектура трансформеров, однако на доведение ее до ума уйдет намного больше времени, чем считают некоторые разработчики ИИ.
В качестве аргумента Андрей рассказал о «марше девяток», с которым столкнулась команда Tesla. По его словам, получить демо, которое хорошо работает в 90% случаев — лишь первый шаг и первая девятка. На то, чтобы достичь продукта с уровнем надежности в 99% и 99,9%, требуется значительное время, причем каждая следующая девятка дается с еще большим трудом. Аналогично с ИИ: нынешние достижения создают иллюзию прорыва, но довести продукт до идеала — марафон, а не спринт.
Андрей раскритиковал высказывание Сэма Альтмана «2025-й — год агентов». По его мнению, все следующее десятилетие будет посвящено постепенному улучшению ИИ-агентов. Он сравнивает идеального ИИ-агента со стажером, которого можно нанять на работу. Сегодняшние решения для этого не подходят: у них отсутствует непрерывное обучение, есть провалы в мультимодальности и здравом смысле — то есть, понимании законов реального времени. Все эти проблемы еще предстоит устранить.
Также он критически относится к технологии обучения с подкреплением, но признает, что пока не придумано ничего лучше. По его словам, reinforcement learning похоже на «всасывание знаний через соломинку» — модель выполняет множество действий и в конце получает сигнал «хорошо» или «плохо». Человек учится иначе: анализирует действия и понимает, какие шаги были правильными, а какие — нет. ИИ подобный механизм рефлексии только предстоит выработать.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com