Искусственный интеллект Youtube заблокировал канал с шахматами, посчитав игру расистской

Компьютерные специалисты из Университета Карнеги-Меллона начали расследование сбоя ИИ после того, как в июне прошлого года популярный шахматный канал на YouTube был заблокирован за «вредный и опасный» контент, сообщает Independent. 

Хорватский шахматист Антонио Радич, известный под псевдонимом Agadmator, ведет популярнейший в мире шахматный канал на YouTube с более чем 1 млн подписчиков. В июне 2020 года Радич был заблокирован на YouTube во время представления шахматного турнира с гроссмейстером Хикару Накамурой, но был восстановлен уже через 24 часа.

Радич уверен, что временная блокировка связана с фразой «черные против белых», хотя автор, очевидно, говорил о шахматах.

Подписывайтесь на LIGA.Tech в Facebook: главные новости о технологиях

Дело в том, что система модерации YouTube основана на алгоритмах искусственного интеллекта, а это означает, что ИИ может неверно истолковать комментарии, если ее не обучить правильно понимать контекст.

Исследователи проверили эту теорию, используя современный классификатор речи, чтобы просмотреть более 680 000 комментариев, собранных с пяти популярных шахматных каналов YouTube. Выяснилось, что 82% сообщений были классифицированы неправильно из-за использования таких слов, как «черный», «белый», «нападение» и «угроза» – все они часто используются в шахматном языке.

  • Это не первый случай, когда искусственный интеллект допускает серьезную ошибку. Так в США искусственный интеллект посадил в тюрьму невиновного человека.
  • Однако, машинное обучение может быть и очень полезным человеку: ученые обучили ИИ помогать врачам точнее предсказывать риск ранней смерти по УЗИ сердца.

Подписывайтесь на LIGA.Tech в Telegram: только важное

Источник: news.liga.net