От билета в кино до выборов президента: ИИ учат манипулировать намерениями человека

Самые разные помощники на основе искусственного интеллекта активно внедряются во все сферы человеческой жизни. Огромные ресурсы, которые тратятся на это внедрение, заставляют задуматься о том, чьим интересам служат такие помощники.

Речь идет об «экономике намерений». Этот термин предложили исследователи Центра по изучению будущего интеллекта Леверхалма при Кембриджском университете (LCFI). Под ним понимается использование моделей для прогнозирования и влияния на принимаемые человеком решения. Фактически нейросети превращают намерения в товар, передавая информацию о них различным компаниям.

Примерно также работает и классическая таргетированная реклама: алгоритмы изучают поисковые запросы и страницы, которые посещает пользователь, чтобы показывать ему более или менее релевантные товары. Но с ИИ все обстоит немного сложнее.

Дело в том, что нейросетевые помощники анализируют не поисковые запросы. В общении с человеком они получают доступ к огромному количеству интимных, психологических и поведенческих данных. В совокупности с информацией об интернет-запросах это позволяет ИИ подстраиваться под пользователя, создавая высокий уровень понимания и доверия, что в конечном итоге может привести к манипулированию намерениями людей в промышленных масштабах.

Ученые предупредили, что инструменты ИИ уже разрабатываются для выявления, анализа, сбора, записи, понимания, прогнозирования и в конечном счете манипулирования и коммерциализации человеческих планов и целей. Сегодня большие языковые модели (LLM) могут изучать интонации пользователя, словарный запас и даже то, как на человека влияют те или иные виды лести и заискиваний.

ИИ классифицирует связи между вниманием и коммуникативным стилем пользователя и моделями поведения и принятия решений. Эти данные используются для максимального повышения вероятности достижения той или иной коммерческой цели. Например, для продажи билета в кино. И на этом уровне усилия ИИ-помощников могут показаться полезными. Но есть одно очень большое «но».

Исследователи подчеркивают, что влияние нейросетей на намерения людей может затронуть такие ключевые факторы, как свобода прессы, честная конкуренция и в конечном итоге легитимные выборы. Чтобы защитить человечество от потенциально катастрофических последствий «экономики намерений», необходимо жесткое регулирование, отметили ученые.

В своем исследовании они обратили внимание на заявления глав крупнейших игроков рынка ИИ, касающиеся «экономики намерений». Так, собирать данные, которые отражают намерения человека, призвали в OpenAI. Об использовании LLM для анализа соответствующей информации говорили руководители Nvidia и Shopify. Компания Apple в 2024 году запустила платформу для разработчиков App Intents, в которой есть протоколы для прогнозирования будущих действий пользователя.

Компании, о которых идет речь, уже активно используют внимание человека, то есть механизмы таргетированной рекламы. По мнению ученых, логично предположить, что следующим шагом будет использование намерений. Для того чтобы эти технологии не пошли по неверному пути, нужно как можно шире оповещать общественность об «экономике намерений», сообщает The SciTechDaily.

06.01.2025
Фото: Freepik – Freepik

Мы рекомендуем:

Электрод-невидимка — революция в восстановлении мозга

Электрод-невидимка — революция в восстановлении мозга

Электрод-невидимка — революция в восстановлении мозга

Электрод-невидимка — революция в восстановлении мозга