Ученые: Компании недооценивают проблемы, связанные с искусственным интеллектом

Исследователи считают, что люди недооценивают реальные проблемы, которые может нести с собой искусственный интеллект. По словам ученых, разработчики не хотят думать о том, что ИИ может быть предвзят, и убеждают в этом других, передает Bloomberg.

Этот материал – часть нашей ежедневной рассылки. Если вы хотите получать свежую рассылку, подписывайтесь на нее здесь и получайте ее, где вам удобно (на почту или в Telegram).

На прошлой неделе стало известно о том, что Google отправил в оплаченный отпуск инженера, который заявил, что чат-бот Google LaMDA способен выражать человеческие эмоции и рассуждать об этических проблемах. Компания заявила, что слова сотрудника не имеют под собой никаких реальных оснований. И это достаточно популярная позиция среди компаний, использующих искусственный интеллект.

Профессор компьютерной лингвистики из Вашингтонского университета Эмили Бендер говорит, что такая позиция позволяет технологическим компаниям снять с себя ответственность за решения, принимаемые ИИ.

"В развитие этой технологии было вложено много усилий и денег. Но проблема заключается в том, что чем больше мы склонны соглашаться, что искусственный интеллект неразумен, тем чаще в принятии решений мы будем полагаться на путь, предложенный ИИ. А это может быть реально опасно", — говорит профессор Бендер.

По словам профессора, если искусственный интеллект в дальнейшем будут использовать для собеседования новых сотрудников и оценки работ студентов, то система будет принимать решение в зависимости от того, какой набор данных был использован при ее "обучении". ИИ может принять несправедливое решение в отношении будущего кандидата или студента, а люди согласятся с этим решением из-за того, что считают ИИ непредвзятым.

По словам ученых, поскольку технология Google LaMDA закрыта для сторонних исследователей, общественность и другие ученые могут делать выводы только на основании того, что им сообщает Google. По словам Марка Риддла, профессора и исследователя из Технологического института Джорджии, эта технология должна стать доступна для сторонних исследователей, поскольку это может быть важно для всего человечества.