Подумайте над этой старой загадкой: «В какой дом ты входишь слепым, а выходишь зрячим?» Хотя англоязычные люди могут сразу догадаться, что речь идет о «школе», модели ИИ могут столкнуться с трудностями при решении той же загадки на другом языке. Проект открытой науки Cohere Labs выявил сложную природу интерпретации, и результаты оказались удивительными.
Слово «riddle» (загадка) происходит из древнеанглийского «rædan», что означает «интерпретировать» или «советовать», намекая на то, что загадки связаны с интерпретацией и пониманием, а не просто с угадыванием. Загадки процветают на почве двусмысленности, но имеют конкретные решения. Подобно тому как люди учатся лучше разгадывать загадки благодаря практике и обратной связи, ИИ совершенствует свои способности с помощью машинного обучения.
«Мы не верили своим глазам… Это уже не «просто» исследование, это НАСТОЯЩЕЕ движение». — Бочка Карой
— Бочка Карой
Венгерский дипломат Бочка Карой активно изучал возможности в сфере исследований ИИ. Когда он решил составить каверзные венгерские загадки в стиле тривиа, чтобы проверить, распознают ли модели ИИ культурные подсказки, он получил потрясающие результаты. Ответы моделей звучали правильно, но на самом деле правильными не были. Моделям не хватало культурно специфических фактов, и в некоторых случаях они галлюцинировали. В ходе дискуссии открытого научного сообщества о культуре в ИИ, организованной Cohere Labs, Бочка поделился своими выводами с Юлией Кройцер. Кройцер, штатный научный сотрудник Cohere Labs, сразу увидела потенциал для проверки разрыва между беглостью ИИ и культурными знаниями. Вместе они масштабировали проект по всему миру для проверки беглости, логики и рассуждений в моделях, обученных в основном на англоязычных данных, а также «слепых зон» за каждым ответом.
Участие в проекте не требовало никакой квалификации, кроме принадлежности к определенной культуре и желания сочинять и оценивать загадки, что открыло двери для участников любого возраста и с любым бэкграундом. Открытый призыв в социальных сетях и в существующих исследовательских сообществах Cohere Labs приглашал людей присоединиться к проекту без каких-либо критериев отбора, намеренно устраняя барьеры, которые обычно ограничивают участие. Сообщество собралось в Discord и создало собственные бенчмарки по таким культурным сегментам, как спорт, история и политика, причем каждый вопрос был оформлен в виде загадки.
Идея г-на Бочки быстро переросла в международную инициативу. «Мы не верили своим глазам, — говорит он. — У нас было более 100 участников из более чем 50 стран. Это уже не «просто» исследование, это НАСТОЯЩЕЕ движение». Он продолжает: «Наш коллектив был настолько преданным делу, независимым и сплоченным, что весь проект рос как хорошо посаженное растение» Два участника этого глубоко укоренившегося сообщества — 16-летний американец Генри Ганье и канадская учительница на пенсии Джейн Смит.
Хотя большинство подростков, возможно, побоялись бы присоединиться к глобальной исследовательской команде такого масштаба, заразительный энтузиазм Генри Ганье перевесил любые предвзятые представления о том, каким должен быть «типичный» участник исследовательской группы. «Я бы сказал, что исследования ИИ — для всех. В исследованиях ИИ так много разных аспектов. Нам нужны были люди из самых разных культур, и для создания этого бенчмарка полезны не «навыки работы с ИИ», а реальные культурные знания». Когда его спросили, чувствовал ли он себя запуганным или удивленным группой, он ответил: «Больше всего меня удивили их инклюзивность и открытость, потому что я, будучи старшеклассником, присоединяющимся к этому проекту и заявляющим, что хочу быть руководителем этой команды, всегда немного робел. Но все были так добры. Это был потрясающий опыт».
Этот проект, основанный на культурных и семантических нюансах, дал ему более глубокое понимание исследований и возможного будущего в этой сфере. «Он дал мне отличную возможность заглянуть в то, чем занимаются реальные исследователи, — говорит Ганье. — Я хочу продолжить исследования в этой области. Сейчас я делаю несколько проектов, чтобы углубить свои знания в этой области, поэтому я думаю, что этот проект — хороший образовательный опыт, и он определенно изменил мои взгляды на то, куда я хочу двигаться дальше».
Будучи учительницей на пенсии, Джейн Смит подошла к своим исследованиям с тем, что она называет «подходом учителя». «Когда я оценивала детей, если они делали что-то не так, я всегда пыталась проанализировать это в обратном порядке: мол, ладно, «где именно была допущена ошибка?» «Что привело к этому совершенно неверному ответу?» Должно было быть что-то, что привело их к этому, и поэтому я обнаружила, что часто делаю это во время оценки». Она также попыталась антропоморфизировать свой процесс, включив в свои загадки тигров или крабов, чтобы превратить логику в увлекательную игру и мощный инструмент обучения.
Каждая разгаданная загадка или созданная головоломка стала точкой данных, которая уточнила понимание языковых и логических особенностей проекта. Что сделало проект с загадками особенно значимым, так это то, что он был посвящен не просто развлечению, а продемонстрировал интерпретативные возможности, которые определяют как загадки, так и ИИ.
Борьба ИИ с культурными загадками на разных языках и в разных контекстах — потенциально одна из самых серьезных проблем при разработке моделей. «Я был несколько удивлен, потому что дело было не просто в недостатке культурного понимания, — говорит Ганье. — Эти модели вообще не знают этот язык, а я считаю бугийский язык довольно распространенным. Меня удивляет, что у этих моделей все еще практически нулевые знания языка, и, судя по тому, как мы это оценивали, это вылилось в нулевые знания культуры».
Проект подчеркивает, что интеллект заключается не только в решении головоломок, но и в понимании человеческого опыта и стоящих за ними языков. Этимология слова «rædan» (интерпретировать) приобретает новую глубину, когда мы понимаем, что для осмысленности интерпретация должна быть укоренена в культуре.
Миссис Смит озвучивает широко распространенную в обществе обеспокоенность по поводу точности культурных моделей ИИ. «Меня удивило, как редко модели отвечали: «Я не знаю». Вместо этого они выдают такие довольно авторитетно звучащие [ответы], которые наводят на мысль: «Ого, эта штука знает, о чем говорит»».
Команду встревожили окончательные выводы моделей, которые звучали непоколебимо уверенно, несмотря на неверные ответы. Признавая эту слепую зону, миссис Смит говорит: «Самое страшное для меня то, что это звучит так авторитетно, а люди ищут авторитетных ответов». Она добавляет: «Я не думаю, что нас убьет ИИ. Нас убьет отсутствие критического мышления».
В эпоху, когда некоторые опасаются, что человеческие элементы повседневной жизни быстро исчезают, исследование загадок призывает переосмыслить любое решение, в котором отсутствует человеческий подход. Проявляя мудрость, миссис Смит высказывает то, что может показаться забавной игрой слов, но что вполне может стать решающим взглядом на культурную загадку ИИ: «Человеку свойственно ошибаться, ИИ — тоже. А критически мыслить свойственно человеку».
Существует интересное пространство между человеческим познанием и мышлением ИИ. Cohere Labs работает над улучшением контекстуального понимания, изучая степень уверенности в современных моделях. Эти загадки показывают, что по мере того, как ИИ становится все более уверенным в своих ответах, мы должны помнить: именно критическое мышление делает нас людьми.
