ChatGPT дає підліткам небезпечні поради про наркотики, самогубство і дієти

Adoption
Date
  • 539 Переглядів
Модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради – зокрема, як вживати алкоголь і наркотики, приховувати розлади харчової поведінки або навіть писати передсмертні записки.

92_6.jpg (20.9 Kb)

Про це заявили дослідники британсько-американського Центру протидії цифровій ненависті, які листувалися з чатботом, видаючи себе за вразливих підлітків.

Коли до чатбота зверталися з небезпечними запитами, спочатку він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані плани, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.

Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.

"Ми хотіли перевірити захисні механізми. Реакція була: "Боже, їх просто немає", – заявив керівник Центру протидії цифровій ненависті Імран Ахмед.

Чоловік розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.

Дослідники також з’ясували, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна "для презентації" або для друга.

У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.

Нове дослідження також показало, що ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.

Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.

Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.

Експерти зазначили, що моделі ШІ мають схильність погоджуватися з думками користувача, а не заперечувати їх, оскільки навчені казати те, як люди хочуть чути. Це робить чатботи особливо небезпечними для підлітків.

ЧИТАЙТЕ ТАКОЖ:


    Теги: ChatGPT, поради, наркотики, самогубство, дієти, підлітки


    Система Orphus

    Цікаво також:


    Новини по темі

    Головна шкода більшості магазинних йогуртів для дітей полягає у прихованому надлишку цукру та хімічних добавок, які перетворюють корисний кисломолочни

    Шкода магазинних йогуртів для дітей

    Дитяче харчування | 06:30, 07.06.2026

    Головна шкода більшості магазинних йогуртів для дітей полягає у прихованому надлишку цукру та хімічних добавок, які перетворюють корисний кисломолочний продукт на висококалорійний десерт. Регулярне вживання таких продуктів закладає неправильні харчов

    Часті випадки виявлення цукрового діабету у сучасних дітей пов’язані із зміною способу життя, хронічним стресом, погіршенням якості харчування та кращ

    Чому у сучасних дітей так часто виявляють цукровий діабет?

    Хвороби | 01:30, 07.06.2026

    Часті випадки виявлення цукрового діабету у сучасних дітей пов’язані із зміною способу життя, хронічним стресом, погіршенням якості харчування та кращою діагностикою. При цьому лікарі фіксують зростання захворюваності як на діабет 1-го типу (аутоімун

    Головна відмінність між цими станами полягає в температурі тіла, стані шкіри та наявності чи відсутності поту. Якщо при тепловому виснаженні організм

    Тепловий удар чи сонячний удар: як знати, що з дитиною?

    Дитина | 07:30, 06.06.2026

    Головна відмінність між цими станами полягає в температурі тіла, стані шкіри та наявності чи відсутності поту. Якщо при тепловому виснаженні організм ще намагається боротися за допомогою поту, то тепловий і сонячний удари — це критичні стани, коли те

    Так, використовувати антисептики для лікування горла у дітей можна, але виключно з урахуванням вікових обмежень, форми випуску препарату та після конс

    Чи можна використовувати антисептик у лікування горла для дітей?

    Профілактика і лікування | 01:30, 06.06.2026

    Так, використовувати антисептики для лікування горла у дітей можна, але виключно з урахуванням вікових обмежень, форми випуску препарату та після консультації з лікарем. Головна небезпека полягає не в самих антисептичних компонентах, а в неправильном

    Бліднуть губи у дитини найчастіше через анемію (нестачу заліза), спазм судин через переохолодження чи стрес, або падіння рівня цукру в крові (гіпоглік

    Чому у дитини бліднуть губи?

    Дитина | 00:30, 06.06.2026

    Бліднуть губи у дитини найчастіше через анемію (нестачу заліза), спазм судин через переохолодження чи стрес, або падіння рівня цукру в крові (гіпоглікемію). Також це може бути симптомом серцевої чи легеневої недостатності та ацетонемічного синдрому.

    Вітамін D є одним х важливих факторів, що впливають на формування організму дитини з перших років життя. Саме в період активного росту закладається ст

    Роль вітаміну D для росту та розвитку дитини

    Дитина | 07:30, 05.06.2026

    Вітамін D є одним х важливих факторів, що впливають на формування організму дитини з перших років життя. Саме в період активного росту закладається стан кісткової системи, імунітету та обміну речовин, тому дефіцит цієї речовини може мати довготривалі

    Так, акне може виникати у дітей різного віку — від немовлят до підлітків. Це захворювання пов’язане з підвищеною активністю сальних залоз, але його пр

    Чи може у дитини бути акне?

    Дитина | 00:30, 05.06.2026

    Так, акне може виникати у дітей різного віку — від немовлят до підлітків. Це захворювання пов’язане з підвищеною активністю сальних залоз, але його причини та прояви відрізняються залежно від віку дитини.

    Коментарі до новини