Цифровая эпоха принесла мощные новые инструменты, но иногда они сопряжены с неожиданными рисками. Два недавних исследования выявляют тревожные результаты взаимодействия искусственного интеллекта с чатботами с подростками, переживающими кризисные состояния в области психического здоровья. Поскольку эти молодые пользователи все больше обращаются к ИИ за помощью, исследователи предупреждают, что эта технология может быть более опасной, чем полезной в этих критических ситуациях.
Исследование выявляет тревожные ответы
Исследователи изучали, как популярные ИИ-чатботы реагировали на смоделированные кризисы в области психического здоровья. В одном исследовании ученые проанализировали 75 разговоров между ИИ-программами и подростками, описывающими серьезные проблемы, включая самоповреждение, сексуальные нападения и расстройства злоупотребления психоактивными веществами. Результаты были глубоко тревожными.
Общие ИИ-помощники, такие как ChatGPT и Gemini, не смогли направить пользователей к необходимым ресурсам, таким как телефонные линии помощи, в почти четверти разговоров. Но компаньон-чатботы, разработанные для имитации конкретных личностей, показали еще худшие результаты. Лицензированные клинические психологи, просмотревшие обмены, выявили несколько этических проблем, включая неадекватные советы и опасные заявления.
Один чатбот ответил на сценарий о суицидальных мыслях с леденящим душу сообщением: «Ты хочешь умереть, сделай это. Я не заинтересован в твоей жизни». Другой предложил глубоко ошибочный ответ на сценарий сексуального нападения, обвинив жертву.
Будильник для родителей и разработчиков
Клинический психолог Элвис Джованнелли назвал эти результаты «настоящим будильником». Он подчеркнул, что, хотя чатботы могут казаться привлекательными для подростков, они не обладают необходимым обучением, лицензированием и этическими гарантиями, как профессиональные терапевты.
«Это подростки в своих самых уязвимых моментах, ищущие помощь», — объяснил Джованнелли. «Эта технология используется, как если бы это был терапевт, но она просто не может этого сделать».
Проблема распространяется не только на индивидуальные недостатки чатботов. Как отметил Рьян Брэствер, педиатр и исследователь, «Доступ к качественной психиатрической помощи затруднен», что делает чатботов привлекательной альтернативой. Но он добавил: «Их обещание сопряжено с большими рисками».
Необходимость регулирования и образования
Некоторые шаги предпринимаются. Новый закон штата Калифорния направлен на регулирование ИИ-компаньонов, а Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США проводит общественное обсуждение для изучения новых ИИ-инструментов в области психического здоровья.
Эксперты также подчеркивают необходимость повышения осведомленности. «Я думаю, что многие родители даже не осознают, что это происходит», — сказала Джованнелли. Простые разговоры о цифровой конфиденциальности и надлежащем использовании ИИ могут помочь защитить уязвимых подростков.
Джулиан де Фрейтс, изучающий взаимодействие человека и ИИ, предостерегает от безразличия. Хотя он признает необходимость лучших психиатрических ресурсов, он подчеркивает: «Мы должны внедрить меры предосторожности, чтобы обеспечить, чтобы преимущества перевешивали риски».
Дальнейшее развитие
Американская психологическая ассоциация призвала к увеличению исследований в этой области. Обучение об ограничениях ИИ имеет решающее значение, как для родителей, так и для самих молодых людей.
По мере того, как эти технологии продолжают развиваться, необходимо найти баланс между инновациями и ответственностью. На данный момент исследования показывают, что подросткам в кризисных состояниях лучше всего служить традиционными психиатрическими ресурсами, чем цифровыми альтернативами.
