Всего лишь языковая модель: почему ИИ не способен понять человека

Современные модели искусственного интеллекта (ИИ), например, ChatGPT или Gemini, достигли впечатляющих успехов в обработке и генерации текста. Несмотря на это, они не способны воспринимать мир так, как это делает человек. Исследование, проведенное учеными Университета штата Огайо (США) объясняет различия в восприятии понятий между людьми и ИИ.

 

Человек против ИИ

Дело в том, что люди обладают уникальной способностью воспринимать мир через сенсорные ощущения: зрение, слух, обоняние, осязание, вкус, не говоря уже о более экзотических способностях. Например, когда мы думаем о цветке, мы не просто представляем его внешний вид. Мы можем ощутить его запах, представить, как бархатистые лепестки касаются нашей кожи, и даже вспомнить, как мы поливаем цветы или собираем из них букет. Все это в купе создает многослойное восприятие, которое невозможно воспроизвести без личного сенсорного опыта. 

С другой стороны, ИИ, например, его большие языковые модели обучаются в основном на текстах, которые содержат лишь словесные описания объектов и явлений. Как отметил Цихуй Сюй, один из авторов исследования, “большая языковая модель не может чувствовать запах розы, прикасаться к лепесткам ромашки или ходить по полю луговых цветов”. Без этих сенсорных взаимодействий ИИ не может по-настоящему понять, что такое цветок, и воспринимает его исключительно как набор символов и ассоциаций. 

Наглядный эксперимент

Чтобы подтвердить эту теорию, ученые провели эксперимент. В рамках исследования они сравнили восприятие 4 442 слов людьми и четырьмя популярными современными нейросетями: GPT-3.

5, GPT-4 от OpenAI и PaLM, Gemini от Google. Участникам эксперимента было предложено оценить слова по двум шкалам: «Нормы Глазго» и «Нормы Ланкастера».  

Первая шкала использует девять показателей, включая эмоциональное возбуждение, конкретику и воображение. Это позволяет оценить, насколько слово вызывает у человека эмоциональный отклик и насколько легко его можно представить в уме. 

Нормы Ланкастера же фиксируют количество сенсорных и моторных компонентов, связанных с понятием. Например, она учитывает, видим ли мы предмет, обозначенный конкретным словом, можем ли его услышать, понюхать, потрогать или попробовать на вкус. 

Результаты и выводы

Результаты исследования показали, что люди гораздо более образно и понятно воспринимают слова с сенсорной нагрузкой, чем языковые модели. Например, слово “цветок” для человека связано с множеством ощущений и действий, в то время как для ИИ оно представляет собой лишь текстовую информацию, лишенную реального контекста. 

В результате специалисты пришли к выводу об ограниченности современных языковых моделей и их неспособности к полноценному пониманию мира. ИИ может генерировать текст, который выглядит правдоподобно, но без реального опыта он не может “ощущать” или “представлять” мир так, как это делает человек.  

The post Всего лишь языковая модель: почему ИИ не способен понять человека appeared first on Русская семерка.