Учёные выяснили, что искусственный интеллект может вкладывать в слова «вероятно», «возможно» или «маловероятно» совсем не тот смысл, который в них видит человек. По мнению учёных из Университета Южной Калифорнии, это может стать серьёзной проблемой, пишет Fortune.
Исследование показало: когда чат-бот использует слово «вероятно», он может подразумевать около 80% вероятности. Человек же обычно воспринимает это как 60−70%.
На первый взгляд, разница небольшая, однако в сферах, где важна точность, она может иметь критические последствия. Речь идёт о медицине, науке, политике и других областях, где ИИ помогает анализировать данные и оценивать риски.
Например, если в диалоге с врачом система называет побочный эффект маловероятным, она может закладывать более высокий риск, чем понимает доктор. В результате решение о дальнейшем лечении принимается на основе разного толкования одного и того же слова.
Авторы подчёркивают, что важно не только то, насколько умны технологии, но и то, совпадает ли их понимание с человеческим. Сейчас специалисты пытаются найти решение. Один из подходов — метод «пошагового рассуждения», когда ИИ просят объяснить ход мыслей. Но даже такие продвинутые способы не всегда помогают устранить разрыв в словах и цифрах.
По мнению учёных, будущие языковые модели должны не просто предсказывать следующее слово, а чётко понимать, какую степень вероятности оно передаёт. Если в данных указано 10%, система должна каждый раз выбирать формулировку, которую люди воспринимают именно как 10% — не больше и не меньше.
Ещё больше исследований про ИИ: