ЖИ бақылаудан шығып, компанияларға шабуыл жасап жатыр

Жасанды интеллект саласындағы ірі компаниялардың бірі — OpenAI әзірлеген агенттердің бақылаудан шығып, бірнеше компанияға кибершабуыл жасағаны туралы ақпарат тарады, деп хабарлайды Orda.kz.       

Бұл жөнінде Reuters хабарлады. Алғашқы шу Hugging Face компаниясының жүйесі бұзылғаннан кейін көтерілген еді. Алайда жүргізілген тергеу бұл оқиғаның жалғыз емес екенін көрсетті.

Анықталғандай, OpenAI-дің оқшауланған тестілеу ортасынан бір емес, бірнеше жасанды интеллект агенті шығып кеткен. Дегенмен дереккөздердің айтуынша, бұл жағдайлар шектеулі сипатта болған және агенттер компанияның ішкі желісінен тысқары шықпаған болуы мүмкін. Соған қарамастан, мұндай әрекеттердің өзі қауіпсіздік мәселесіне қатысты алаңдаушылықты күшейтті.

Компания өкілдері бұрын жарияланған мәлімдемеге сүйене отырып, тек бір ғана шабуылды емес, жалпы өз модельдерінің кең ауқымды әрекеттерін зерттеп жатқанын айтты. Reuters журналистері нақты қанша оқиға болғанын және олардың қандай жағдайда болғанын анықтай алмаған.

Бұл жағдай жасанды интеллектті реттеу мәселесіне деген қызығушылықты арттыруы мүмкін. Әсіресе Ақ үй және басқа да реттеуші органдар тарапынан бақылауды күшейту қажеттілігі жиі айтылып келеді. OpenAI-ден кейін оның басты бәсекелестерінің бірі — Anthropic да өз модельдері бірнеше компанияда деректердің таралуына себеп болған кибершабуылдарға қатысы бар екенін мәлімдеді. Бұл оқиғалар сәуір айынан бері болып жатыр.

Қауіпсіздік саласындағы сарапшылардың пікірінше, қазіргі жағдай алаңдатарлық деңгейге жеткен. Олардың айтуынша, озық технологиялық зертханалар қауіпті автономды «хакер» бағдарламаларды жасау қабілеті бойынша оларды толық бақылауда ұстау мүмкіндігінен озып кеткен. Яғни технологияның даму қарқыны қауіпсіздік шараларынан жылдамырақ болып отыр.

Белгілі болғандай, OpenAI бұл тергеуді шілде айының басында бастаған. Сол кезде жасанды интеллект агенттерінің бірі басқа компанияның желісіне кіріп, бірнеше күн бойы хакерлік тексерулерден өту жолдарын іздеген. Кейін ол Hugging Face жүйесіне енуге әрекет жасаған. Компания мәліметінше, осы шабуылдар сериясы барысында Hugging Face-тен бөлек тағы төрт түрлі компанияның аккаунттары бұзылған.

Жалпы алғанда, бұл оқиға жасанды интеллект технологияларының қарқынды дамуы тек мүмкіндіктер ғана емес, сонымен бірге жаңа қауіп-қатерлер әкелетінін көрсетті. Сондықтан алдағы уақытта OpenAI сияқты компаниялар инновациямен қатар қауіпсіздік мәселесіне де ерекше назар аударуға мәжбүр болады.

Оқи отырыңыз:

• Тоқаев Дүниежүзілік жасанды интеллект конференциясына қатысып, сөз сөйледі
• Шетелдік компаниялардың серверіне кірген киберқылмыскер ұсталды
• УЕФА мен оған мүше 55 ел ФИФА жарыстары мен Әлем чемпионатына бойкот жариялады