НОВОСТИ / РОССИЯВ то время как многие компании уверенно заявляют, что их искусственный интеллект умеет рассуждать, эксперты из Apple выносят вызов этой уверенности. Недавнее исследование, опубликованное группой ученых Apple, разоблачает широко разрекламированные способности таких моделей, как o3 от OpenAI, Claude 3.7 от Anthropic и Gemini от Google, раскрывая их реальные ограничения.
Идея "мышления" в большущих языковых моделях (Large Reasoning Models, LRM) строится на том, что ИИ разлагает сложные задачи на последовательные шаги — цепочки рассуждений — чтобы прийти к верному ответу. Однако, по мнению исследователей Apple, эта способность часто оказывается иллюзией.
"Хотя эти модели показывают улучшенные результаты в тестах на рассуждение, их фундаментальные возможности и ограничения остаются недостаточно изученными", — отмечают авторы статьи.
Среди них — Сэми Бенджио, начальник исследований искусственного интеллекта и машинного обучения в Apple.
Используя тщательно организованные головоломки, команда проверяла, как модели справляются с разной сложностью задач. Результаты оказались тревожными.
"Мы показали, что передовые модели терпят полный крах точности, когда задачи выходят за пределы определённого уровня сложности", — подчеркивают ученые.
Причина — так называемый "феномен чрезмерного обдумывания": невзирая на наличие достаточного количества данных для анализа, модели начинают ошибаться именно на более сложных уровнях.
Исследование показывает, что современные модели склонны не столько к истинному рассуждению, сколько к созданию "галлюцинаций" — то есть выдумыванию фактов или ответов без логической базы. Это ставит под сомнение не только рекламные заявления ведущих ИИ-компаний, но и сам путь развития технологии.
"Мы обнаружили, что модели не используют явные алгоритмы и часто рассуждают непоследовательно, — говорится в статье. — Их возможности в точных вычислениях крайне ограничены".
Парадоксально, что именно компания, которую часто считают отстающей в области искусственного интеллекта, выступила с критикой технологий, продвигаемых конкурентами. Apple делает ставку на осторожное и постепенное внедрение ИИ в свои продукты, в то время как другие компании запускают все более мощные и амбициозные модели.
Может ли это исследование стать сигналом того, что индустрия ИИ упёрлась в серьёзные ограничения? Или это попытка Apple подстраховаться и привлечь внимание к себе, указывая на проблемы у конкурентов?
Исследователи Apple считают, что результаты их работы ставят "важнейшие вопросы" о реальной природе рассуждений в ИИ и подчеркивают необходимость новейших подходов.
"Эти выводы бросают вызов распространённым предположениям и указывают на фундаментальные препятствия на пути к настоящему обобщающему мышлению у моделей", — заключают авторы.
Тем временем, индустрия продолжает вкладывать миллиарды долларов в развитие технологий и строительство мощных дата-центров, в надежде преодолеть текущие ограничения.