ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 268 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)

Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Батьки часто замислюються: «Як виховати дитину так, щоб вона завжди говорила правду?» або «Що робити, якщо дитина збрехала?». Відповіді на ці питання

    Як пояснити дитині, чому добре говорити правду?

    Дитина | 09:30, 14.10.2025

    Батьки часто замислюються: «Як виховати дитину так, щоб вона завжди говорила правду?» або «Що робити, якщо дитина збрехала?». Відповіді на ці питання лежать у щоденних дрібницях: у тому, як ми самі виконуємо обіцянки, реагуємо на помилки й пояснюємо

    Розбираємо на прикладі найчастіших інфекцій, бо повернення залежить не тільки від відсутності температури, а й від особливостей конкретної інфекції.

    Коли дитині можна в колектив після хвороби?

    Дитина | 14:50, 13.10.2025

    Розбираємо на прикладі найчастіших інфекцій, бо повернення залежить не тільки від відсутності температури, а й від особливостей конкретної інфекції.

    Дівчата з соціально незахищених сімей мають значно вищі шанси завагітніти до 20 років, ніж їхні ровесниці з більш забезпечених родин.

    Підлітки з бідних сімей частіше вагітніють, ніж їхні багаті однолітки

    Дитина | 10:30, 12.10.2025

    Дівчата з соціально незахищених сімей мають значно вищі шанси завагітніти до 20 років, ніж їхні ровесниці з більш забезпечених родин.

    Вчені виявляють зв’язок між появою сивого волосся та станом серцево-судинної, ендокринної й імунної систем.

    Якщо у дитини з'являється сиве волосся: що робити?

    Здоров'я | 08:30, 12.10.2025

    Вчені виявляють зв’язок між появою сивого волосся та станом серцево-судинної, ендокринної й імунної систем.

    Сімейний психолог і сексолог Ольга Гома відповіла на найпоширеніші запитання батьків про статеве виховання, зокрема, про початок менструації.

    Коли батькам починати розмову з дочкою про місячні?

    Дитина | 06:20, 12.10.2025

    Сімейний психолог і сексолог Ольга Гома відповіла на найпоширеніші запитання батьків про статеве виховання, зокрема, про початок менструації.

    Дітям не рекомендується їсти ковбасу через високий вміст шкідливих добавок, таких як консерванти (зокрема, нітрит натрію), трансжири та надлишок солі,

    Чому медики не рекомендують їсти ковбасу дітям?

    Дитяче харчування | 12:10, 11.10.2025

    Дітям не рекомендується їсти ковбасу через високий вміст шкідливих добавок, таких як консерванти (зокрема, нітрит натрію), трансжири та надлишок солі, які підвищують ризик розвитку раку та серцево-судинних захворювань. Крім того, ковбаса поступається

    Втома у школярів – часта проблема через сучасні шкільні навантаження. Уроки, контрольні, домашні завдання та гуртки виснажують дитину не лише фізично,

    Як впоратися зі втомою у школяра: поради психолога

    Дитина | 11:20, 10.10.2025

    Втома у школярів – часта проблема через сучасні шкільні навантаження. Уроки, контрольні, домашні завдання та гуртки виснажують дитину не лише фізично, а й емоційно. Як допомогти малечі залишатися активною? Для вас поради психологів.

    Коментарі до новини