Новый стартап в сфере ИИ заявил, что самые популярные чат-боты имеют ряд уязвимостей
Опубликовано:
![Искусственный интеллект Искусственный интеллект](https://cdn.nur.kz/images/1120x630/a8fdc853aba2c00d.jpeg)
Новый стартап в области искусственного интеллекта Haize заявил, что обнаружил уязвимость в ПО самых популярных чат-ботов с ИИ, передает NUR.KZ со ссылкой на The Washington Post.
Этот материал – часть нашей ежедневной рассылки. Если вы хотите получать свежую рассылку, подписывайтесь на нее здесь и получайте ее, где вам удобно (на почту или в Telegram).
Стартап Haize Labs, основанный пять месяцев назад бывшими студентами колледжа, сообщил, что многие известные чат-боты с ИИ могут сгенерировать контент жестокого или сексуального содержания. Кроме того, в некоторых случаях чат-боты способны проинструктировать пользователей в вопросах создания химического и биологического оружия, а также автоматизировать кибератаки.
Один из основателей Haize Леонард Тан заявил, что их чат-бот является независимым стресс-тестером, а глобальная цель компании заключается в искоренении уязвимостей генеративного искусственного интеллекта, доступного широкой публике.
По его словам, в конечном итоге Haize должна прийти к деятельности, которая будет заключаться в составлении рейтингов общественной безопасности популярных моделей ИИ.
Безопасность ИИ вызывает растущую озабоченность, поскольку все больше компаний интегрируют генеративный ИИ в свои сервисы и используют большие языковые модели в потребительских продуктах.
Оригинал статьи: https://www.nur.kz/technologies/software/2116704-novyy-startap-v-sfere-ii-zayavil-chto-samye-populyarnye-chat-boty-imeyut-ryad-uyazvimostey/