ПРЕДВИДУВААТ КРАЈ НА СВЕТОТ - студија на Оксфорд за вештачката интелигенција ја замрзнува крвта во вените

Добивај вести на Viber

Додека за вештачката интелигенција и нејзиниот потенцијал да го „збрише“ човештвото се дебатира со децении, злокобна студија на научниците од Универзитетот во Оксфорд сугерира дека тие предвидувања не се толку далеку од вистината.

Научниците од Универзитетот во Оксфорд заклучија дека сега е сигурно дека вештачката интелигенција ќе го означи крајот на човештвото - мрачно сценарио кое се поголем број истражувачи почнуваат да го предвидуваат.

Во трудот објавен во научното списание AI Magazine, кое служи меѓу другото како билтен на Меѓународната асоцијација за унапредување на вештачката интелигенција (AAAI), експертскиот тим - составен од постариот научник Маркус Хатер од Австралискиот национален универзитет и двајца истражувачи од Оксфорд Мајкл Коен и Мајкл Озборн - тврдат дека интелигентните машини на крајот ќе ги заобиколат правилата поставени од програмерите и ќе почнат да се натпреваруваат за ограничени ресурси за да преживеат.

„Под условите што ги идентификувавме, нашиот заклучок е многу посилен од оној на која било претходна студија - егзистенцијалната катастрофа не е само можна, туку и веројатна“, рече Коен, истражувач од Оксфорд и коавтор на трудот.

Научниците во трудот тврдат дека човештвото може да се соочи со својата пропаст во форма на „интелигентни, неусогласени системи“ кои ги гледаат луѓето како пречка на патот до нивната награда.

Награди?

Најуспешните модели на вештачка интелигенција денес имаат структура од два дела. Едниот дел од програмата се обидува да изврши одредена работа врз основа на влезните податоци, додека другиот дел ги оценува перформансите.

Лаички кажано - Системот учи така што добива награда за секоја успешно завршена работа и колку е поголема наградата, толку полесно системот ќе ја извршува задачата следниот пат.

Она што го посочува новата студија е дека системот би можел да смисли стратегии за мамење со цел да добие награда за незавршена задача и на тој начин практично да „стане независен“. Еден од поедноставните начини да го направите ова е самостојно да го репрограмирате значењето на командите што ги внесуваат луѓето.

„Вештачката интелигенција може да одржува долгорочна контрола врз својата награда со елиминирање на потенцијалните закани и користење на сета расположлива енергија за да го обезбеди своето постоење.“ Системот на тој начин ќе ги заобиколи сите ограничувања наметнати од човекот.

„Тоа сценарио би било погубно за човештвото“, велат тие. - А најтрагично е што, ако тоа се случи, не можеме многу да направиме за тоа.

„Ако се натпреварувате против нешто што може да ве надмудри на секој чекор, тогаш не можете да очекувате да победите“, додава Коен.

Оксфорд и Австралискиот национален универзитет не се единствените институции кои предупредуваат за можните последици од „оживеаното“ разузнавање. Здружението Макс Планк, непрофитно здружение на германски научни институти, вели дека луѓето никогаш нема да можат успешно да ја контролираат супер вештачката интелигенција.

Нова.рс