Новый стартап в сфере ИИ заявил, что самые популярные чат-боты имеют ряд уязвимостей

Новый стартап в области искусственного интеллекта Haize заявил, что обнаружил уязвимость в ПО самых популярных чат-ботов с ИИ, передает NUR.KZ со ссылкой на The Washington Post.

Этот материал – часть нашей ежедневной рассылки. Если вы хотите получать свежую рассылку, подписывайтесь на нее здесь и получайте ее, где вам удобно (на почту или в Telegram).

Стартап Haize Labs, основанный пять месяцев назад бывшими студентами колледжа, сообщил, что многие известные чат-боты с ИИ могут сгенерировать контент жестокого или сексуального содержания. Кроме того, в некоторых случаях чат-боты способны проинструктировать пользователей в вопросах создания химического и биологического оружия, а также автоматизировать кибератаки.

Один из основателей Haize Леонард Тан заявил, что их чат-бот является независимым стресс-тестером, а глобальная цель компании заключается в искоренении уязвимостей генеративного искусственного интеллекта, доступного широкой публике.

По его словам, в конечном итоге Haize должна прийти к деятельности, которая будет заключаться в составлении рейтингов общественной безопасности популярных моделей ИИ.

Безопасность ИИ вызывает растущую озабоченность, поскольку все больше компаний интегрируют генеративный ИИ в свои сервисы и используют большие языковые модели в потребительских продуктах.