Бразильца арестовали за переписку с ChatGPT: мужчина обсуждал с ИИ убийство сына

Фермер вел диалог с ИИ примерно два месяца. По данным Гражданской полиции штата Эспириту-Санту, содержание переписки указывало на возможный план убийства его восьмилетнего сына мужчины, а также на подготовку к суициду.

В переписке, которую передали ФБР, пользователь интересовался о воздействии токсичных веществ на организм, рассказывал, что предлагал деньги за убийство ребенка, и признавался, что испытывает удовлетворение при виде страданий других людей. Автоматическая система безопасности OpenAI распознала эти сообщения как сигнал угрозы и передала данные силовикам.

Кроме того, фермер использовал нейронку для поиска информации о нападениях на школы, церкви и полицейских. Запросы носили общий характер, однако правоохранители не исключают, что фермер обдумывал не только убийство ребенка, но и другие возможные нападения.

Начальник местной полиции отметил, что в некоторых диалогах этот пользователь стремился обойти ограничения, которые установлены самим ChatGPT, в частности, перефразировал вопросы, которые могли нарушить правила использования ИИ.