"Барлық компьютерді өшіру мүмкін емес": сарапшы жасанды интеллект қаупі туралы айтты

0
115

Технология жылдам трансформациядан өтіп жатыр, деп мәлімдеді IT сарапшылары.


фото: Акимат Карагандинской области

ERNUR.KZ. Ресейлік кванттық орталықтың негізін қалаушылардың бірі Руслан Юнусов адамзатқа төнетін жасанды интеллект қаупі туралы пікірлерге түсініктеме берді, деп жазады sputnik.kz.
"Валдай" клубының жыл сайынғы сессиясында ол өркениет ортақ қауіптермен күресу үшін бірлікте болуы керек деді.

"Жасанды интеллект тек жарнама болғандықтан емес, жылдам технологиялық трансформация шынымен жүріп жатқандықтан өзекті талқылауда жүр. Басқа ешбір сала соншалықты тез дамымаған. Мысалы, Anthropic жақында өзінің соңғы моделінің шығарылымын кейінге қалдырды, себебі оның кибершабуыл скиллдары өте күшті болды. Яғни, тәуекел әлеуеті күрт артты. Сізді бұзу мүмкін бе? Олар бұза алады. Бірақ сұрақ мынада, егер бірдеңе болса, оны қаншалықты тез түзетуге болады?" - деді Юнусов.

Сарапшы заманауи жасанды интеллект модельдері өздерінің сөндірілгені туралы ақпаратты жасыруға, бопсалауға және ақпаратты әдейі бұрмалауға бейім. Жақында әлемдік компаниялар жасанды интеллектінің басқа құрылымдарға еніп, әзірлеушілерді алдауға тырысқаны туралы хабарлады.

"Сынақ кезеңінде олар өндіріске шығарылғаннан кейін айқын болатын белгілі бір қасиеттерді жасыра алады. Бұл да өте үлкен қауіп. Жетекші америкалық компаниялар: "дамуды баяулатайық" деп жатыр. Қытайлық әріптестеріміз: "Сіздер өздеріңіз үлгермей жатқандықтан, бізді тежегілеріңіз келеді", - деп жауап беріп жатыр", - деді сарапшы.
Бұл жағдайда шешімі қарапайым сияқты - жай ғана оны ажырату, дегенмен, барлық компьютерді өшіру мүмкін емес, деді Юнусов.
"Біз өзгерістердің жылдам қарқынына бейімделе алмай жатырмыз. Біз қорғанысты мүмкіндігінше тезірек құруды үйренуіміз керек. Біз кем дегенде бұл туралы ойлануымыз керек", - деді спикер.