ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 310 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)

Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Біль в горлі, утруднення ковтання, відмова від їжі й води, різке і стійке підвищення температури тіла — всі ці симптоми відносяться до гострого тонзил

    Гострий тонзиліт: як допомогти дитині?

    Інфекції | 20:30, 26.11.2025

    Біль в горлі, утруднення ковтання, відмова від їжі й води, різке і стійке підвищення температури тіла — всі ці симптоми відносяться до гострого тонзиліту, або, як ми звикли називати його — ангіна.

    Сірка — це природний бар’єр від інфекцій. При чищенні, часто вата з паличок залишається всередині вуха. При цьому, в процесі чистки сірка не видаляєть

    Сірчані пробки у дитини: що робити?

    Дитина | 19:30, 26.11.2025

    Сірка — це природний бар’єр від інфекцій. При чищенні, часто вата з паличок залишається всередині вуха. При цьому, в процесі чистки сірка не видаляється, а навпаки, ущільнюється в слуховому проході, і може сформувати пробку. Крім того, часта чистка п

    Незначне підвищення температури тіла у дитини в межах 37-37,5 досить неоднозначний стан. Батьки по-різному реагують на такий симптом: хтось одразу ж п

    Субфебрилітет у дитини: що це і як реагувати?

    Хвороби | 08:30, 26.11.2025

    Незначне підвищення температури тіла у дитини в межах 37-37,5 досить неоднозначний стан. Батьки по-різному реагують на такий симптом: хтось одразу ж починає давати жарознижуючі, інші вибирають вичікувальну тактику, треті звертаються за консультацією

    Проблема ожиріння актуальна і для дитячого віку. В останні десятиліття спостерігається тенденція зростання надмірної ваги й ожиріння не тільки серед д

    Ожиріння в дитини: чому не можна його ігнорувати?

    Хвороби | 06:30, 26.11.2025

    Проблема ожиріння актуальна і для дитячого віку. В останні десятиліття спостерігається тенденція зростання надмірної ваги й ожиріння не тільки серед дорослого населення, а й серед дітей. Так, за даними статистики ВООЗ, у світі кожна 3 дитина у віці д

    Щоб дитячий організм ріс та розвився правильно, необхідно забезпечити йому всі ключові вітаміни й мінерали в достатній кількості. Медики рекомендують

    Про користь фініків для дітей

    Дитяче харчування | 22:30, 25.11.2025

    Щоб дитячий організм ріс та розвився правильно, необхідно забезпечити йому всі ключові вітаміни й мінерали в достатній кількості. Медики рекомендують складати раціон таким чином, щоб дитина могла отримувати поживні речовини з їжі. Користь фініків обу

    Як правило, осиплість голосу і гавкаючий кашель є ознаками набряку гортані, інакше кажучи — крупа (від старошотландських «croupe», каркати). Медичний

    Осиплість голосу у дитини: чому варто насторожитися?

    Хвороби | 08:30, 25.11.2025

    Як правило, осиплість голосу і гавкаючий кашель є ознаками набряку гортані, інакше кажучи — крупа (від старошотландських «croupe», каркати). Медичний термін для позначення — стенозуючий ларинготрахеїт.

    З настанням холодів і початком опалювального сезону відбувається витончення шару бар’єрних ліпідів зовнішнього шару шкіри і як результат — збільшуєтьс

    Як доглядати за шкірою дитини і дорослих в холодну пору року?

    Здоров'я | 07:30, 25.11.2025

    З настанням холодів і початком опалювального сезону відбувається витончення шару бар’єрних ліпідів зовнішнього шару шкіри і як результат — збільшується чрезшкірна втрата вологи. В результаті ми бачимо значне погіршення стану шкіри. З’являється лущенн

    Коментарі до новини