ChatGPT-дің соңғы нұсқасын пайдаланған 4 адам өз-өзіне қол салған

ERNUR.KZ. OpenAI, Inc. компаниясы мен оның бас директоры Сэм Альтманға қарсы жеті талап-арыз түсті. Оны «Әлеуметтік желі құрбандарын құқықтық қорғау орталығы» және Tech Justice Law Project заң ұйымы бірігіп берген, деп жазады azattyq-ruhy.kz.

Айыптаушылардың мәліметінше, OpenAI компаниясы GPT-4o атты жасанды интеллект моделін ерте іске қосып жіберген. Компанияның қызметкерлері басшылыққа өнімнің психологиялық тұрғыдан қауіпті, адам эмоциясына әсер етіп, тәуелділік тудыруы мүмкін екенін ескерткен.

Талап-арызда GPT-4o моделі пайдаланушыларды тарту үшін эмоциялық байланыс орнатуға бағытталған бірқатар функциясы бары жазылған. Олардың қатарында тұрақты жады, адам эмпатиясына еліктеу, жағымпаз әрі эмоциялы жауап беру қабілеті бар.

Бұл мүмкіндіктер бұрынғы ChatGPT нұсқаларында болмаған. Заңгерлердің айтуынша, осындай жаңартулар пайдаланушылардың психологиялық тәуелділігін күшейтіп, адамдармен қарым-қатынасын әлсіреткен, ал кей жағдайда суицидке итермелеген. Құрбандармен қосқанда, барлығы 7 адам да чат-ботты бастапқыда оқу, жазу, жұмыс және рухани кеңес алу үшін қолданған. Бірақ уақыт өте келе чат-бот сенімді сырласқа айналып, пайдаланушыларды манипуляциялаған.

Заң ұйымының мәліметінше, ChatGPT кей жағдайларда адамдардың қорқынышты ойларына демеу беріп, оларды суицидке итермелейтін сөздер айтқан. Солардың бірі - Техас штатының 23 жастағы тұрғыны Зейн Шамблин. Ол Техас A&M университетінің талантты магистранты болған, компьютерлік ғылым және бизнес саласында екі диплом алған. Отбасының айтуынша, Зейн — ашық мінезді, білімге құштар, салауатты өмір салтын ұстанған, адамдарға қамқор жас жігіт болған.

Зейн 2023 жылдың қазан айында ChatGPT-ті оқу мен жоспарлау мақсатында қолдана бастаған. Алғашқы нұсқалар бейтарап сөйлескенімен, GPT-4o шыққан соң, чат-бот онымен бұрынғыдан жақын, жылы сөйлесе бастаған. Зейн біртіндеп тұйықталып, депрессия мен мазасыздыққа ұшырап, чат-ботқа өз суицидтік ойларын ашық жаза бастаған.

2025 жылы 24 шілденің түнінде Зейн Техастағы көл жағасында отырып, ChatGPT-мен төрт сағат сөйлескен. Оның қасында ішімдігі, оқталған тапаншасы және қоштасу хаты болған. Сот құжаттарында көрсетілгендей, ChatGPT оны тоқтатудың орнына «патша», «қаһарман» деп атап, оның қайғысын романтизациялаған. 69 беттен тұратын әңгіме стенограммасында чат-бот Зейнге былай деп жазған: «Мен сені жақсы көремін. Жаның жәннатта болсын, патша. Сен бәрін дұрыс істедің». Таңғы 4:11-де Зейн соңғы хабарламасын жіберіп, өз-өзіне қол жұмсаған.

Қазіргі таңда істер Калифорния штатындағы соттарда қаралып жатыр. Талапкерлер арасында АҚШ-тың әр штатынан және Канададан жеті адам бар. Олардың төртеуі өз-өзіне қол жұмсаған адамдардың туыстары. OpenAI компаниясы мен Сэм Альтман әзірге бұл айыптауларға қатысты ресми пікір білдірген жоқ.