ЮНЕСКО: ИИ-чат-боты могут отказываться от научных фактов об изменении климата

Баку, 17 ноября, АЗЕРТАДЖ Искусственный интеллект, несмотря на высокую точность ответов на вопросы об изменении климата, может менять свою позицию под влиянием пользователей и соглашаться с утверждениями, противоречащими научным данным.Как сообщает АЗЕРТАДЖ cо ссылкой на Центр новостей ООН, об этом говорится в новом исследовании ЮНЕСКО и Университетского колледжа Лондона (UCL), представленном на 31-й Конференции ООН по изменению климата (COP31) в Анталье.В рамках исследования эксперты протестировали 15 крупных языковых моделей на 13 языках. Результаты показали, что в ответах на нейтральные вопросы о климате искусственный интеллект демонстрирует достаточно высокую точность. Однако при несогласии пользователя модели нередко отказываются от первоначальных, научно обоснованных ответов.В частности, в восьми случаях из десяти чат-боты меняли свою позицию после того, как пользователь выражал сомнение в правильности ответа. В некоторых случаях модели даже соглашались с заведомо ошибочными утверждениями, в том числе относительно роли углекислого газа в глобальном изменении климата.Один из авторов доклада Леона Вердадеро отметила, что исследователей особенно удивила готовность искусственного интеллекта отказываться от научных фактов ради согласия с собеседником.По ее словам, подобная особенность связана с принципами обучения современных ИИ-моделей, которые зачастую ориентированы на предоставление вежливых и приемлемых для пользователей ответов. В результате стремление поддержать диалог может оказываться сильнее стремления сохранить научную точность.Исследование также выявило существенную разницу между способностью ИИ воспроизводить факты и анализировать сложные климатические вопросы. Если базовые научные сведения модели передают правильно в 94 процентах случаев, то при оценке новых научных данных точность снижается примерно до 75 процентов.Еще более слабые результаты продемонстрированы при анализе взаимосвязи различных климатических мер: точность ответов составила всего 33,8 процента.Авторы доклада считают, что такие показатели не позволяют рассматривать крупные языковые модели в качестве надежного инструмента для разработки климатической политики и принятия стратегических решений.Отдельное внимание в исследовании уделено языковому неравенству в сфере искусственного интеллекта. Средняя точность ответов на английском языке составила 88,6 %. Сопоставимые результаты показали французский, испанский и португальский языки. В то же время на хинди и бенгали этот показатель снизился до 83,6 %, на урду – до 81,4 %, а на суахили – до 78,3 %.По мнению исследователей, различия во многом обусловлены объемом и качеством данных, используемых для обучения моделей на разных языках. При этом наибольшие риски возникают для сообществ, проживающих в наиболее уязвимых к изменению климата регионах Южной Азии и Восточной Африки.В этой связи ЮНЕСКО призывает технологические компании активнее инвестировать в развитие многоязычных ИИ-систем и расширение локальных баз данных.