ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 357 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)


Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Діти вчаться керувати собою, своїми емоціями та поведінкою не одразу. Вміння почути прохання, внутрішньо з ним змиритися та лише потім діяти потребує

    Чому дитяче "я не хочу" — частина нормального розвитку?

    Розвиток дитини | 06:30, 15.01.2026

    Діти вчаться керувати собою, своїми емоціями та поведінкою не одразу. Вміння почути прохання, внутрішньо з ним змиритися та лише потім діяти потребує часу, зрілості нервової системи та досвіду. У ранньому віці дитина може одночасно:- не хотіти щось р

    Для батьків це водночас привід для гордості та внутрішньої тривоги — як допомогти, але не втручатись, як підтримати, але не контролювати кожен крок.

    Перший підробіток підлітка: що треба знати батькам?

    Дитина | 01:20, 15.01.2026

    Для батьків це водночас привід для гордості та внутрішньої тривоги — як допомогти, але не втручатись, як підтримати, але не контролювати кожен крок.

    У деяких ситуаціях заїкання може минути саме по собі, особливо якщо дитині всього 2-3 роки, але так буває не завжди.

    Чому дитина заїкається і як їй допомогти?

    Дитина | 00:30, 15.01.2026

    У деяких ситуаціях заїкання може минути саме по собі, особливо якщо дитині всього 2-3 роки, але так буває не завжди.

    Перша менструація — важлива подія у житті кожної дівчинки, яка сигналізує про початок статевого дозрівання. Організм готується до цього моменту поступ

    Як зрозуміти, що у дівчинки скоро вперше почнуться місячні?

    Дитина | 19:30, 14.01.2026

    Перша менструація — важлива подія у житті кожної дівчинки, яка сигналізує про початок статевого дозрівання. Організм готується до цього моменту поступово, надсилаючи різноманітні сигнали протягом кількох місяців або навіть років. Знання про ці зміни

    Вередлива дитина, що проявляє істерики з різних приводів ‒ проблема для батьків. Особливо неприємна така ситуація де-небудь на вулиці, в магазин

    Якщо дитина постійно ниє

    Дитина | 07:30, 14.01.2026

    Вередлива дитина, що проявляє істерики з різних приводів ‒ проблема для батьків. Особливо неприємна така ситуація де-небудь на вулиці, в магазині, коли навколо знаходиться багато сторонніх людей, перед якими, по суті, цілеспрямовано і влаштовую

    Багато хто з батьків відкладає прописку дитини на потім, але це все той фундамент, без якого не отримати ні виплат на малюка, ні місця в садочку. По с

    Прописка: скільки часу дається на реєстрацію дітей?

    Немовля | 06:30, 14.01.2026

    Багато хто з батьків відкладає прописку дитини на потім, але це все той фундамент, без якого не отримати ні виплат на малюка, ні місця в садочку. По суті, закон вимагає від нас визначитися з адресою проживання дитини досить швидко, щоб держава "бачил

    Дитячі книги мають не тільки розважальне, а й пізнавальне значення, виконують освітні та виховні функції.

    5 причин читати казки дитині

    Дитина | 01:20, 14.01.2026

    Дитячі книги мають не тільки розважальне, а й пізнавальне значення, виконують освітні та виховні функції.

    Коментарі до новини