У искусственного интеллекта есть особенность, связанная с языком

Один из языков преобладает в обучении моделей.

Современные системы искусственного интеллекта развиваются преимущественно вокруг английского языка, из-за чего пользователи многих стран получают доступ к ИИ, который хуже понимает их язык, чаще ошибается и менее надежно защищает от опасных запросов, пишет эксперт Кристиан Шлепфер для CEPA (перевод — сайт Charter97.org).

Проблема особенно заметна для так называемых языков с низким объемом цифровых данных — например, суахили или бирманского. Несмотря на то что ими пользуются миллионы людей, у ИИ гораздо меньше материалов для обучения, чем на английском.

«Текущие системы ИИ менее доступны, менее полезны и менее безопасны для пользователей языков с низким ресурсным обеспечением», — отмечает автор.

Исследователи указывают на так называемый «налог токенов»: некоторые языки требуют больше вычислительных единиц для обработки того же объема информации, что повышает стоимость использования моделей и снижает скорость их работы.

Кроме того, алгоритмы чаще лучше рассуждают на английском языке, что приводит к ошибкам и культурным искажениям. Например, ИИ может неверно трактовать значение слов в разных языковых средах.

Языковой дисбаланс создает и угрозы безопасности. Ученые обнаружили, что защитные механизмы ИИ легче обходить с помощью запросов на некоторых мало представленных языках.

Решить проблему только силами рынка не получится. Они призывают правительства инвестировать в развитие многоязычных моделей, поддерживать локальные данные и привлекать носителей языков к созданию новых систем.

«Многие регионы мира рискуют не получить выгоду от революции искусственного интеллекта», — предупреждают эксперты.

Вы можете поддержать сайт Charter97.org следующим образом:

РАСЧЕТНЫЙ МУЛЬТИВАЛЮТНЫЙ СЧЕТ ДЛЯ ПОЖЕРТВОВАНИЙ:

Название банка: Bank Millennium S.A.
Адрес: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Название владельца счета: Fundacja “KARTA ‘97”
Назначение платежа: Darowizna na cele statutowe

Связаться с нами можно по адресу charter97@gmail.com