ИИ сработал на опережение
Claude сдал полиции жительницу Флориды, которая планировала напасть на офис местного шерифа. Как узнал The TechSpot, женщина использовала ИИ от Anthropic как личный дневник и в ходе переписки указала, что планирует устроить стрельбу в полицейском участке. По некоторым данным, в чате упоминались и различные виды оружия.
На эти записи отреагировала система безопасности Claude и передала информацию на рассмотрение живому сотруднику Anthropic. Последний счел сообщения реальной угрозой и сообщил о женщине в полицию. Там установили личность пользовательницы и ее задержали. Ей предъявлено обвинение в письменной угрозе насилием. Во Флориде это тяжкое преступление.
«Мы не знаем 99% дел, которые так передаются в правоохранительные органы. Потому что если это будет раскрываться массово, определенные люди откажутся от этого, и полицейским будет еще сложнее их находить. Много случаев, в том числе суицидальных. Поэтому и начали раскрывать эту информацию заранее, чтобы предотвратить смертельные случаи», — говорит главный редактор портала Itzineru Сергей Кузнецов.
