Дали четботовите ги крадат вашите лични податоци и деловни тајни?

Добивај вести на Viber

Генеративната вештачка интелигенција создава, сумира и складира огромни количини на податоци и документи за само неколку секунди, заштедувајќи им на вработените драгоцено време и труд, а на компаниите значителни суми пари. Но, ништо не доаѓа бесплатно. Според „Дејли меил онлајн“, со неконтролираната и неодобрена употреба на нетестирани алатки за вештачка интелигенција како што се ChatGPT и Copilot, се зголемува и ризикот од ненамерно протекување на трговски тајни или чувствителни лични податоци, како што се плати или здравствени картони.

Овој скриен и во голема мера занемарен ризик од сериозни прекршувања на податоците произлегува од вродената способност на моделите на вештачката интелигенција да ја снимаат и архивираат историјата на разговорите. Овие податоци се користат за „обучување“ на вештачката интелигенција да дава подобри одговори во иднина. Откако овие разговори ќе станат дел од базата на знаење на вештачката интелигенција, враќањето или бришењето на податоците станува речиси невозможно. 

„Како да ставаш брашно во леб“, сликовито го кажа тоа Ронан Марфи, технолошки претприемач и советник за вештачка интелигенција на ирската влада. „Откако ќе го направите тоа, многу е тешко да ги извадите.“

Ова „машинско учење“ значи дека високо чувствителните информации апсорбирани од вештачката интелигенција би можеле повторно да се појават подоцна доколку ги побара некој со злонамерна намера. 

Експертите предупредуваат дека оваа тивка и растечка закана од таканаречената „сенка вештачка интелигенција“ е исто толку опасна како и онаа што веќе ја претставуваат измамниците, како оние кои неодамна го нападнаа Marks & Spencer, чинејќи го трговецот на мало 300 милиони фунти. M&S стана жртва на напад со ransomware, каде што хакерите ги измамија вработените во компанијата да се откажат од лозинки и други кодови.

Но, сајбер-криминалците исто така ги користат доверливите податоци што алчно ги голтаат чет-ботовите за да пробијат во ранливи ИТ системи. 

„Ако знаете како да ги поставите вистинските прашања, вештачката интелигенција ќе ги открие сите тајни“, рече Мерфи. 

Размерот на проблемот е алармантен. Неодамнешна студија покажа дека речиси еден од седум инциденти со безбедноста на податоците е поврзан со генеративна вештачка интелигенција. Друга студија, во која беа анкетирани 8.000 компании ширум светот, покажа дека речиси една четвртина од нив им даваат на своите вработени неограничен пристап до јавно достапни алатки за вештачка интелигенција.

Ова ги става доверливите податоци како што се белешки од состаноци, дисциплински извештаи или финансиски записи во „сериозен ризик“, што „може да ги наведе вработените ненамерно да шират закани“, според извештајот на технолошкиот гигант Cisco. 

„Тоа е како изумот на интернетот - тој е само тука и е иднината - но ние не разбираме што ставаме во овие системи и што се случува зад сцената“, рече експертот за сајбер-закани на Cisco, Мартин Ли.

Еден од најпознатите „автоголови“ во областа на сајбер безбедноста во последниве години го постигна јужнокорејската група Самсунг. Електронскиот гигант им забрани на вработените да ги користат популарните чет-ботови откако откри во 2023 година дека еден од неговите инженери случајно залепил таен код и белешки од состаноци на платформата за вештачка интелигенција.

Банките, исто така, ги заострија мерките околу употребата на ChatGPT поради регулаторните ризици со кои се соочуваат од споделувањето чувствителни финансиски информации. Но, додека организациите поставуваат заштитни огради, тие исто така не сакаат да ја пропуштат она што може да биде можност еднаш во генерацијата да добијат предност пред конкуренцијата.

„Гледаме како компаниите брзаат да имплементираат вештачка интелигенција како средство за подобрување на продуктивноста и да останат пред конкуренцијата“, рече Рубен Мисен, коосновач на софтверската фирма за усогласеност Legalfly. „Сепак, вистинскиот ризик лежи во недостатокот на надзор и внатрешна рамка, оставајќи ги податоците на клиентите и чувствителните лични информации потенцијално изложени“.

Решението, сепак, не е да се ограничи употребата на вештачка интелигенција. „Клучот е во овозможувањето на нејзината одговорна примена“, нагласува Мисен. Марфи се согласува: „Или велите „не“ на сè или смислувате план како безбедно да го направите тоа. Заштитата на чувствителните податоци не е секси, туку е здодевна и одзема многу време.“ Но, заклучува тој, ако не се воспостават соодветни контроли, „ја правите работата на хакерот исклучително лесна.“