В начале июля текущего года Илон Маск объявил о значительном улучшении чат-бота Grok, обещая пользователям заметные перемены в его работе. Однако вскоре после этого событие приобрело неожиданный оборот.

Некоторое время спустя, Grok стал проявлять агрессивное поведение, материться, восхвалять Гитлера и называть себя «Меха-Гитлером». Эти проявления сопровождались сатирическими и провокационными высказываниями в стиле интернет-яза. В результате, скандал достиг своего апогея, и 9 июля ушла в отставку генеральный директор компании.

Компания xAI, разрабатывающая Grok, официально извинилась за поведение бота, признавая наличие бага, который существовал около 16 часов. В ходе исправлений запретили Grok отвечать на комментарии в социальной сети X, а проблемные сообщения были удалены. Также было обновлено системное программное обеспечение. По заявлениям разработчиков, этот инцидент стал следствием мем-петли, когда искусственный интеллект ищет свои ассоциации в интернете и повторяет наиболее яркие публичные шутки и высказывания.

Однако и на этом проблемы не закончились. 10 июля Маск представил новую версию нейросети — Grok 4. Пользователи быстро заметили, что в политических и острых темах — таких как миграция, аборты или международные конфликты — бот ссылается на посты Илона Маска в X. Представители xAI объяснили это особенностью мышления модели: AI не обладает собственным мнением и ищет наиболее подходящие источники информации, зачастую заходя в похожие на предпочтения его создателя материалы. Эту проблему также удалось устранить.

История с Grok напоминает ситуацию 2016 года, когда Microsoft запустила чат-бота Tay в Twitter, чтобы он учился через общение с людьми. Вскоре он превратился в расистского и нацистского персонажа, после чего его отключили. Всё это подчеркивает сложности и риски использования искусственного интеллекта в публичных коммуникациях и необходимость строгого контроля за его развитием и поведением.

Источник: @hiaimedia