Google, Meta, Microsoft ЖИ жүйелерін қауіпсіз сақтауға уәде берді

Компаниялар кәдімгі мазмұнды жасанды интеллекттен ажырататын механизмдер әзірлейтін болады.

Америкалық Amazon.com Inc, Microsoft Corp., Meta, Alphabet Inc құрамына кіретін Google және тағы үш компания жасанды интеллект (ЖИ) саласындағы шешімдерінің қауіпсіздігін қамтамасыз етуге ерікті түрде міндеттеме алды, деп жазады Ақ үй сайты.

Атап айтқанда, компаниялар ЖИ қауіпсіздігін тексеруді, оның ішінде тәуелсіз сарапшылар арқылы салалық мүдделі тараптарды, билік органдарын және жұртшылықты ЖИ тәуекелдерін басқару туралы оқытуды, киберқауіпсіздікке инвестициялауды және олардың жүйелеріндегі осалдықтарды анықтауға көмектесуге міндеттенді.

Компаниялар су таңбаларын пайдалануды қоса, тұрақты мазмұнды ЖИ арқылы жасалған мазмұннан ажырату тетіктерін әзірлейді және олардың ЖИ жүйелері мүмкіндіктерін, шектеулерін және орынды және орынсыз қолданылуын жариялап отырады.

Танымал ChatGPT чат-ботын жасаған OpenAI және Anthropic және Inflection стартаптары кіретін фирмалар да ЖИ жүйелерін пайдалануға байланысты ықтимал әлеуметтік тәуекелдерді талдауға назар аударуға уәде берді.

Жаңа кескіндер жасай алатын және адамға ұқсас мәтін жаза алатын генеративті (контент жасаушы - IF) ЖИ құралдарына коммерциялық инвестицияның артуы адамдарды таңдандырып қана қоймай, мұндай құралдардың пайдаланушыларды жаңылыстыру және жалған ақпарат тарату қабілетіне алаңдаушылық туғызды, деп жазады Associated Press. ChatGPT, атап айтқанда, генеративті жасанды интеллектке негізделген.