ИИ «думает» на английском

Исследователи из Федеральной политехнической школы Лозанны провели исследование, чтобы понять, в каком языковом пространстве «думают» большие языковые модели (LLM), которые лежат в основе чат-ботов. Для этого они изучили три версии модели Llama 2.

Благодаря тому, что нейросеть имеет открытый исходный код, ученые смогли увидеть каждый этап обработки запроса. Моделям предложили запросы на китайском, французском, немецком и русском языках. При этом ИИ должен был повторить заданное слово, перевести его с одного языка на другой и заполнить пробелы в предложениях.

Эксперты обнаружили, что при переводе нейросетями, например, с китайского на русский иероглифы сначала проходят через английское языковое пространство и только потом переводятся в кириллические символы. Исследователи пришли к выводу, что ИИ использует английский язык для лучшего понимания запроса.

С этим открытием связаны определенные опасения. 

В частности, использование английского языка в качестве посредника может распространить мировоззренческие ограничения на другие регионы. Из-за этого теряются определенные нюансы и концепции, которые характерны для других языков. Отсюда проистекает и более глобальный риск: ИИ будет руководствоваться англоцентрическими ценностями. Например, не допускать до определенной, иногда жизненно важной информации сообщества, которые не вписываются в «английскую» картину мира, сообщает 3DNews.

Как ранее писал «Мир робототехники», группа ученых из Университета Арканзаса провела исследование, которое показало, что ИИ может проявлять больше креативности, чем люди. Эксперты проверили возможности 151 человека и модели GPT-4 от OpenAI с точки зрения дивергентного мышления, которое, в отличие от конвергентного, предполагает генерацию множества творческих решений определенной задачи.

11.03.2024
Фото: Kandinsky

Мы рекомендуем:

«Вкусные» устройства, или «Леденец» расширенной реальности

Фантомы органов и самоуправство робохирургов. Научный совет РАН о медицинской робототехнике

Фантомы органов и самоуправство робохирургов. Научный совет РАН о медицинской робототехнике

Фантомы органов и самоуправство робохирургов. Научный совет РАН о медицинской робототехнике

Фантомы органов и самоуправство робохирургов. Научный совет РАН о медицинской робототехнике