ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 707 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)

Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Повітряна тривога посеред ночі може збити сон дитини. Сирена, вибухи, різке пробудження та необхідність спускатися в укриття змушують дитину прокидати

    Дитина погано спить після нічних тривог?

    Дитина | 23:37, 12.09.2026

    Повітряна тривога посеред ночі може збити сон дитини. Сирена, вибухи, різке пробудження та необхідність спускатися в укриття змушують дитину прокидатися саме в той момент, коли організм має відпочивати.

    Норма чищення зубів – двічі протягом дня. Однак коли йдеться про ранкову процедуру гігієни ротової порожнини, багато батьків поділяються на дві катего

    Чому дітям не можна чистити зуби після сніданку: відповідь експерта

    Дитина | 09:48, 11.09.2026

    Норма чищення зубів – двічі протягом дня. Однак коли йдеться про ранкову процедуру гігієни ротової порожнини, багато батьків поділяються на дві категорії: ті, хто заставляють дітей чистити зуби до сніданку і ті, хто після вживання їжі.

    Білий наліт на язиці у дитини часто є нормою або легко усувається, але іноді сигналізує про проблему.** Найчастіше хвилюватися не варто, особливо якщо

    Білий наліт на язиці у дитини: чому з'являється і чи варто хвилюватися

    Дитина | 22:51, 08.09.2026

    Білий наліт на язиці у дитини часто є нормою або легко усувається, але іноді сигналізує про проблему.** Найчастіше хвилюватися не варто, особливо якщо дитина добре їсть, активна і не має інших симптомів.

    Міністерство охорони здоров’я опублікувало поради батькам, як зібрати шкільний ланч-бокс: який перекус кращий і що дати дитині до школи.Які продукти д

    Шкільний ланч-бокс: що дати дитині до школи

    Дитина | 23:35, 01.09.2026

    Міністерство охорони здоров’я опублікувало поради батькам, як зібрати шкільний ланч-бокс: який перекус кращий і що дати дитині до школи.Які продукти дати дитині з собою, який перекус буде найкорисніший для здоров’я, які ланч-бокси зробити до школи, р

    Новий рюкзак куплений, зошити складені, одяг на перший навчальний день готовий. Здається, до школи все є. Але для дитини підготовка до першого класу т

    «Мамо, я не хочу до школи»: як допомогти першокласнику звикнути до навчання

    Дитина | 17:46, 31.08.2026

    Новий рюкзак куплений, зошити складені, одяг на перший навчальний день готовий. Здається, до школи все є. Але для дитини підготовка до першого класу точно не закінчується новими ручками та пеналом.З 1 вересня змінюється звичний ритм життя. Треба рані

    Перед школою батькам саме час перевірити наявність обов'язкових щеплень у дітей, - повідомили у Міністерстві охорони здоров'я.

    Щеплення дітей перед школою 2026: перелік обов'язкових вакцин від МОЗ

    Дитина | 11:18, 26.08.2026

    Перед школою батькам саме час перевірити наявність обов'язкових щеплень у дітей, - повідомили у Міністерстві охорони здоров'я.

    Американські вчені з Національного інституту здоров'я проаналізували результати двох досліджень, у ході яких спостерігали за кількома сотнями вагітних

    Дослідження: У жінок, які п'ють каву під час вагітності, народжуються діти невеликого зросту

    Вагітність та пологи | 10:00, 18.08.2026

    Американські вчені з Національного інституту здоров'я проаналізували результати двох досліджень, у ході яких спостерігали за кількома сотнями вагітних жінок, а згодом ще вісім років за їхніми дітьми. Дослідники дійшли висновку, що вживання навіть пом

    Коментарі до новини