Добавлять кнопку "аварийного выключения" в ИИ могут потребовать от компаний Кремниевой долины

Компании из Кремниевой долины протестуют против законопроекта штата Калифорния, связанного с безопасностью искусственного интеллекта, передает NUR.KZ со ссылкой на Financial Times.

Этот материал – часть нашей ежедневной рассылки. Если вы хотите получать свежую рассылку, подписывайтесь на нее здесь и получайте ее, где вам удобно (на почту или в Telegram).

Технологические гиганты из Кремниевой долины протестуют против законопроекта, предложенного властями Калифорнии, который в перспективе может заставить участников рынка придерживаться строгих мер безопасности при разработке технологий ИИ. В том числе, предусматривать кнопку "аварийного выключателя", чтобы обеспечить контроль пользователя над новейшими технологиями.

Законопроект был принят сенатом штата в мае, а голосование на генеральной ассамблее пройдет в августе. Этот документ требует, чтобы компании гарантировали властям, что они разрабатывают модели ИИ, которые не несут потенциальную угрозу. В частности, компании должны гарантировать, что ИИ нельзя использовать для разработки биологического или ядерного оружия, а также для нарушения кибербезопасности.

Несмотря на очевидные положительные аспекты закона, документ вызвал недовольство у многих предприятий, работающих на территории Калифорнии.

Многие утверждают, что закон может заблокировать доступ компаний к передовым разработкам с исходным кодом и, в конечном итоге, заставит их покинуть Кремниевую долину и потерять часть прибыли.