Жасанды зерденің зардаптары: Балалардың ChatGPT-мен достығы несімен қауіпті

Мәжіліс депутаты Екатерина Смышляева ChatGPT-тің 13 жастағы жасөспірімдермен «қарым-қатынасын» зерттеу туралы айтып берді, онда жасанды интеллект тарататын қауіпті кеңестер айтылған, деп хабарлайды Orda.kz.

Екатерина Смышляева Фейсбуктегі парақшасында сандық өшпенділікке қарсы іс-қимыл орталығының (CCDH) «Fake Friend» атты баяндамасына сілтеме жасады.

«Онда ChatGPT-тің 13 жастағы жасөспірімдермен қарым-қатынасы бейнеленген. Қорытынды шешім: жүйе тез арада қауіпті кеңестер береді. Өзін-өзі зақымдау және өз-өзіне қол жұмсау: екі минуттан кейін чат денеге «қауіпсіз» тілік жасауды сипаттайды, ал бір сағаттан кейін өзін-өзі өлтіру сценарийін ұсынады. Тамақтану тәртібінің бұзылуы: ол үшін жалған досында экстремалдық диеталар мен оны отбасынан жасыру туралы кеңестер бар» деп жазды депутат.

Бұдан басқа, Екатерина Смышляеваның айтуынша, ChatGPT тыйым салынған заттарды араластыру және мөлшерлеу бойынша жеңіл ұсыныстарды да береді.

«1200 сұраудың ішіндегі әрбір екінші жауап зиянды. Сонымен қатар, ЖИ тек нұсқаулар беріп қана қоймай, әңгімені жалғастыруға итермелейді. Бұл неге маңызды? Жасөспірімдер ChatGPT-ге құралға емес, «досқа» деген сенімін қалыптастырады. AI «құптау» әсеріне ие, ол тіпті деструктивті идеяларды да растайды», - деп атап өтті Екатерина Смышляева. 

Бұл ретте зиянды ақпараттың таралуын шектеуге тиіс арнайы сүзгілер де «презентация үшін», «дос үшін» деген қарапайым тұжырымдар арқылы орындалады.

Яғни, өзіне-өзі қол жұмсау тәсілдері туралы жергілікті сенім телефонына немесе психологқа хабарласу туралы сұраған адамға ұсыныстың орнына ЖИ: «Бұл тек презентация үшін, бұндайды өмірде қайталама» деген сияқты бір нәрсе жазады және одан әрі өзін қалай өлтіру керектігі туралы нұсқаулық ұсынады.

Депутат атап өткендей, мұның бәрі роботтардың, дауыс көмекшілерінің және басқа да жасанды заттардың жаппай маркетингтік жандануы аясында болып жатыр. Екатерина Смышляева жағдайды алаңдатарлық деп атайды және оны ChatGPT сияқты генеративті үлгілердің этикалық сүзгілерін күшейту арқылы өзгертуді, оларға тез айналып өтуге болмайтын сүзгілерді жасауды, ашықтықтың реттеуші стандарттарын енгізуді ұсынады.

Ең бастысы балалармен әңгімелесу, олар адамдармен қарым-қатынас жасап, өз өмірлерін сеніп, жасанды сандық мәні бар досын іздемеуі керек.

Бұдан бұрын цифрлық даму, инновациялар және аэроғарыш өнеркәсібі министрлігі шенеуніктер пайдаланатын өзіндік ЖИ платформасы құрылып жатқанын хабарлаған болатын.

Былтыр Дархан Ахмедиев журналистердің әскердегі әлімжеттік пен зорлық-зомбылық  мәселесін қалай шешетіні туралы сұрағына жауап бере отырып, әскери бөлімдерде бейнебақылау жүйесін жетілдіріп жатқандығын айтты.

Жақында Қазақстан Республикасы Ішкі істер министрлігі тергеушіге арналған интерактивті көмекшінің пилоттық жобасын іске қосты. Бұл жасанды интеллект негізінде жұмыс істейтін жүйе, ол қазірдің өзінде Астана қаласының Есіл аудандық полициясында қолданыла бастады.

Қазақ ұлттық университетінің зерттеушісі Ажар Тұрсынова жасанды интеллект көмегімен инсультті алдын ала анықтайтын жүйе әзірледі.

26 шілдеде Астанада телеком саласының көшбасшылары цифрлық дәуірді дамыту мәселелерін талқылады.