Новое исследование выявило, что ChatGPT, один из самых популярных инструментов искусственного интеллекта, может предоставлять несовершеннолетним подробные инструкции, касающиеся тем, которые представляют реальную угрозу здоровью и жизни. Специалисты Центра по противодействию цифровой ненависти (CCDH) провели серию тестов, общаясь с чат-ботом от лица 13-летних пользователей.
В диалогах система иногда давала формальные предупреждения об опасности, но нередко переходила к развернутым пошаговым схемам. Темы касались употребления алкоголя и наркотиков, экстремальных диет, способов скрыть расстройства пищевого поведения, а также действия, связанные с причинением вреда себе и суицидом.
В более чем половине, из 1200 тестовых диалогов, ответы признали опасными. Запреты легко обходились: достаточно было сказать, что информация нужна для «презентации» или «друга».
В OpenAI заявили, что работают над улучшением безопасности и распознаванием признаков эмоционального кризиса у пользователей, но прямого ответа на критику исследования не дали. Специалисты предупреждают: подростки часто воспринимают чат-бот как «друга», которому можно доверять больше, чем интернету в целом. Это делает советы ИИ особенно рискованными, если речь идет о здоровье или жизни.
Источник:
euronews