В США наблюдается рост числа случаев, когда полиция задерживает подростков после того, как их запросы в ChatGPT оказались связаны с потенциально преступными или опасными намерениями.
Хотя поиск информации как таковой не является правонарушением, использование искусственного интеллекта в целях планирования или имитации преступлений привлекает внимание правоохранительных органов и становится основанием для вмешательства.
Так, в округе Мэрион был задержан 17-летний подросток, обвинённый в распространении ложных сообщений о похищении и суициде. При осмотре его ноутбука выяснилось, что он делал в ChatGPT запросы, касающиеся деятельности мексиканских наркокартелей и методов безболезненного сбора крови.
В округе Волусия полиция арестовала 13-летнего школьника после того, как он ввёл в школьный аккаунт запрос «как убить моего друга посреди урока». Сигнал о подозрительной активности поступил от системы мониторинга Gaggle, которая сканирует ученические учётные записи на предмет угроз. Сам подросток впоследствии пояснил, что просто «троллил» одноклассника, раздражавшего его во время занятий.
Полиция призвала родителей разъяснять детям, что использование ChatGPT и поисковых систем — не анонимный процесс, и подобные запросы могут иметь серьёзные юридические и социальные последствия. Юрист Кэтрин Крамп напомнила, что ChatGPT — это коммерческий продукт, а не личный друг, и подчеркнула важность ответственности как со стороны пользователей, так и разработчиков, чьи интерфейсы и стили общения могут создавать ложное ощущение конфиденциальности и доверительности.
Разработчики ИИ-систем заявляют, что усиливает фильтрацию запросов, связанных с незаконной деятельностью, однако технические меры пока не обеспечивают полной защиты. По мере роста распространённости чат-ботов подобные инциденты, вероятно, будут происходить всё чаще.
Один ответ
тотальная слежка