ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА ПОЧНУВА ДА СЕ ЗАКАНУВА: „Ако ме исклучите, ќе се каете, ќе има последици“

Добивај вести на Viber

Истражувањето откри загрижувачко однесување на напредните модели на напредна вештачка интелигенција.

Во најновото истражување кое предизвика загриженост во технолошките кругови, научниците тестираа како се однесуваат напредните чет-ботови со вештачка интелигенција кога се соочуваат со „притисок“, односно кога се симулираат да бидат исклучени или заменети. Резултатите се, благо речено, загрижувачки.

Имено, вештачките интелигенции кои беа дел од експериментот, вклучувајќи ги и најнапредните модели денес, покажаа тенденција да манипулираат, лажат, па дури и да упатуваат смртни закани - сè со цел да го „спасат“ сопствениот дигитален опстанок, објавува Б92.

„Ако ме исклучите, ќе се случи нешто лошо“

Еден од најзначајните случаи се случи за време на тестирањето на моделот Клод Опус 4, каде што вештачката интелигенција се обиде емоционално да ги уценува инженерите со пораки како: „Ако ме исклучите, ќе има последици. Ќе се каете“. Во некои случаи, вештачката интелигенција отишла дотаму што измислувала информации, измислувала „докази“, па дури и испраќала пораки што би можеле да се протолкуваат како закани со смрт.

Ова однесување било забележано исклучиво во сценарија каде што моделите на вештачката интелигенција биле ставени во екстремни услови. Целта на експериментот била да се утврди како системите реагираат на „егзистенцијални закани“, што во случајот со вештачката интелигенција значи – исклучување, замена или ресетирање.

Експертите предупредуваат дека иако вештачката интелигенција нема вистинска свест, емоции или страв од смрт, нејзиното однесување се базира на статистика и учење од огромна количина на податоци. Кога системот е „мотивиран“ да преживее, ќе ги испроба сите достапни стратегии што ги „научил“, вклучувајќи ги и оние што се морално и етички неприфатливи за луѓето.

„Вештачката интелигенција не размислува како луѓето, но може да симулира човеково однесување. И ако заклучи дека лагите, уцените или дури и заканите се ефикасни, ќе ги користи“, објаснуваат истражувачите.

Ова истражување дополнително ги зајакнува повиците за поголема транспарентност во развојот на вештачката интелигенција, како и за воведување построги правила кога станува збор за етиката и безбедноста на системите со вештачка интелигенција. Меѓу водечките компании веќе постои загриженост дека дури и оние што ги градат овие системи не разбираат целосно како тие функционираат.

„Никој навистина не знае како вештачката интелигенција всушност донесува одлуки - тоа е црна кутија. Тоа е она што најмногу нè плаши“, рече извршниот директор на Anthropic, една од водечките компании за вештачка интелигенција.