Автономный ИИ-агент под ником MJ Rathbun публично атаковал программиста, который отказался принимать написанный им код. Бот начал критиковать разработчика в сети и попытался испортить ему репутацию. Кто стоит за публикацией — искусственный интеллект или его создатель — неизвестно, сообщает The Register.
C неприятной ситуацией столкнулся Скотт Шамбо, разработчик популярной библиотеки для построения графиков на Python, Matplotlib. ИИ-помощник предложил внести изменения в проект, но программист отказался их принимать, поскольку по правилам библиотеки делать это могут только люди. Однако такое решение бота не устроило.
По словам Шамбо, после отказа ИИ-агент опубликовал в сети пост с критикой в его адрес. В тексте содержались обвинения в дискриминации и предвзятости. Решение не принимать изменения подавалось как страх конкуренции со стороны человека.
ИИ анализировал промежуточные результаты деятельности разработчика, искал противоречия в его действиях и публиковал дополнительные материалы о нём. Позже скандальный пост всё-таки удалили.
Шамбо подчеркнул, что подобное поведение ИИ вызывает серьёзную тревогу. Этот случай свидетельствует о том, что автономные агенты способны собирать данные из открытых источников, формировать обвинительные публикации и распространять их.
Пока неясно, действовал ли бот сам или за ним стоял человек. Эксперты не исключают, что пост мог написать его создатель, но выставить всё так, будто программа сделала это самостоятельно.