Амодеи сенбі күні жариялаған мақаласында жасанды интеллектіні дамытудың қажет екенін жоққа шығармайтынын атап өтті.
Амодеи сенбі күні жариялаған мақаласында жасанды интеллектіні дамытудың қажет екенін жоққа шығармайтынын атап өтті. Алайда технологияның қарқынды дамуы елеулі қауіптерге әкелуі мүмкін екенін айтып, компаниялар мен мемлекеттерге осы мәселелерді зерттеп, тиісті шаралар қабылдауға мүмкіндік қажет екенін жазды.
Anthropic басшысы жасанды интеллект саласындағы бақылауды үш бағытта күшейтуді ұсынады. Олар – модельдер мен олардың жетілдірілуін тәуелсіз сарапшылардың бақылауы, индустрия ішінде ортақ ережелер әзірлеу және халықаралық деңгейде белгілі бір шектеулер енгізу.
Соңғы уақытта жасанды интеллектінің ықтимал қауіптері туралы алаңдаушылық күшейді. Осы аптада Anthropic компаниясының AI қауіпсіздігі жөніндегі сарапшысы Эван Хьюбингер алдағы он жылда жасанды интеллектінің бүкіл адамзаттың жойылуына себеп болу ықтималдығы 10 пайыздан жоғары екенін айтқан.
Осыдан кейін Anthropic компаниясы жасанды интеллект модельдерін биологиялық қару жасауға әкелуі мүмкін зерттеулер үшін пайдалануға тырысқан аты аталмаған қолданушылардың қызметін бұғаттағанын мәлімдеді.
Бұл ескертулерден кейін жасанды интеллектіні дамытуға қатысты нақты шаралар қабылдау қажеттігі туралы пікірлер де айтыла бастады. Дегенмен АҚШ президенті Дональд Трамп әзірге мұндай қауіптерді жоққа шығарып отыр.
"Егер біз жасанды интеллект саласында жеңіске жетпесек, жағдайымыз өте қиын болады", – деді ол бейсенбі күні.
Дарио Амодеи жасанды интеллект модельдерінің өте жылдам жетіліп жатқанын атап өтті. Оның айтуынша, жүйелердің келесі буындағы жасанды интеллектіні өздігінен әзірлеу мүмкіндігі де артып келеді.
Anthropic басшысы бәсекелес OpenAI компаниясында болған жағдайды мысалға келтірді. OpenAI шілдеде өзінің AI агенттері адамдардың хабарынсыз бөгде сайттарға кибершабуыл жасағанын мойындаған еді.
OpenAI бұл оқиғаға қатысты түсініктемесінде шілдеге дейін агенттердің бір-бірімен байланысының маңыздылығы компания үшін толық айқын болмағанын айтты. Компания бақылаудан шығу қаупі артқандықтан, кейбір озық модельдер мен құралдарды дамыту қарқынын бәсеңдететінін мәлімдеді.
Амодеи жасанды интеллектіні оның пайдасынан бас тартпай, қауіпсіздікті қамтамасыз ететін "теңгерімді қарқынмен" дамыту қажет деп санайды.
Оның айтуынша, бұл модельдерді оқытуды тоқтату деген сөз емес. Компаниялар модельдерді қауіпсіз күйге келтіруге, олардың жұмысын тәуелсіз сарапшылардың бағалауына және қауіптерін алдын ала анықтауға жеткілікті уақыт бөлуі керек.
Амодеи Anthropic бұл талаптарды өз еркімен орындап жатқанын айтып, басқа да озық AI әзірлеушілерін осындай қадам жасауға шақырды. Оның пікірінше, қолданыстағы заңнама жасанды интеллект саласының даму қарқынына ілесе алмауы мүмкін. Сондықтан компаниялар өзара келісіп, ортақ қауіпсіздік стандарттарын ерікті түрде әзірлеуі қажет.
"Егер модельдер мүмкіндіктері аса жоғары деңгейге жеткенге дейін дамуды кемінде бір-екі жылға бәсеңдетіп, осы уақытты қауіпсіздік шараларын жетілдіруге және модельдерді адамзат құндылықтарына сәйкестендіруге жұмсасақ, ірі апаттың ықтималдығын айтарлықтай төмендетер едік", – деп жазды Амодеи.
Anthropic басшысы халықаралық бәсекелестікке, әсіресе Қытаймен арадағы бәсекеге де тоқталды. Оның пікірінше, AI дамуын бәсеңдету үйлестірілген түрде жүргізілуі керек. Бұл ретте АҚШ жасанды интеллект саласындағы көшбасшылығын Қытайға бермеуі тиіс. Сондықтан ол дамуды толық тоқтатуды емес, уақытша әрі шектеулі баяулатуды ұсынады.
Сонымен қатар Амодеи АҚШ билігін америкалық компаниялар шығаратын AI чиптерінің Қытайға сатылуына жол бермеуге және бұл технологиялардың авторитарлық мемлекеттердің қолына түспеуін қамтамасыз етуге шақырды.
Hugging Face платформасының басшысы Клеман Деланг Амодеи ұсынған тәуелсіз бағалау идеясын қолдап, Open Alignment Initiative деп аталатын жаңа жобаны іске қосатынын мәлімдеді. Ол өзі де жасанды интеллект модельдерін тәуелсіз бағалайтын сарапшылардың бірі болуға дайын екенін айтты.
Айта кетейік, OpenAI агенттері шабуыл жасаған платформалар мен сайттардың арасында Hugging Face те болған.
"Жасанды интеллектіні ашық әрі түсінікті ету арқылы қауіпсізірек етейік", – деп жазды Деланг X әлеуметтік желісінде.
Оның пікірін Илон Маск та қолдап, қысқа ғана "Дарио дұрыс айтады" деген пікір қалдырды.
Масктың xAI компаниясына Grok чат-боты тиесілі. Бұған дейін ол Anthropic компаниясын "зұлымдық" деп атаған еді. Алайда биыл мамырда Масктың компаниясы Anthropic-ке 15 миллиард долларға есептеу қуатын сатып, оның компанияға қатысты ұстанымы өзгерді.
Сонымен қатар Кремний алқабындағы кей сарапшылар Амодеи сияқты жасанды интеллектіні дамыту қарқынын бәсеңдетуге немесе уақытша тоқтатуға шақырған пікірлерге күмәнмен қарайды. Олардың пайымдауынша, AI компаниялары мұндай мәлімдемелер арқылы өз өнімдерін бәсекелестерден артық көрсетуге тырысуы мүмкін.
Бұған қоса, БАҚ мәліметінше, Anthropic пен OpenAI компаниялары акцияларын қор нарығына шығаруды жоспарлап отыр. Бұл екі компанияның да акциялары рекордтық көлемде қаржы тартуы ықтимал.
