Sztuczna inteligencja ma swoje zagrożenia

Przy obec­nym tem­pie ocze­ku­je się, że licz­ba użyt­kow­ni­ków korzy­sta­ją­cych z apli­ka­cji sztucz­nej inte­li­gen­cji (AI) podwoi się w cią­gu 7 mie­się­cy. W ostat­nich dwóch mie­sią­cach naj­szyb­ciej roz­wi­ja­ją­cą się apli­ka­cją AI był Google Bard. Przy obec­nym tem­pie Google Bard nie jest jed­nak w sta­nie dogo­nić ChatGPT w cią­gu naj­bliż­sze­go roku.

Tygodniowo licz­ba użyt­kow­ni­ków korzy­sta­ją­cych z Google Bard rośnie o ponad 7 proc., w porów­na­niu do 1,6 proc. w przy­pad­ku ChatGPT.

Korzystanie z ChatGPT niesie zagrożenia

Analitycy Netskope odkry­li, że kod źró­dło­wy jest publi­ko­wa­ny w ChatGPT czę­ściej niż jaki­kol­wiek inny rodzaj wraż­li­wych danych, w tem­pie 158 incy­den­tów mie­sięcz­nie na 10 tys. użyt­kow­ni­ków. Inne wraż­li­we dane udo­stęp­nia­ne w ChatGPT obej­mu­ją tak­że dane:

• pouf­ne – w tym dane finan­so­we i doty­czą­ce opie­ki zdrowotnej, 
• oso­bo­we – wraz z wła­sno­ścią intelektualną 
• hasła i klu­cze, zwy­kle osa­dzo­ne w kodzie źródłowym.

Nieuniknione jest, że nie­któ­rzy użyt­kow­ni­cy będą prze­sy­łać zastrze­żo­ny kod źró­dło­wy lub tekst zawie­ra­ją­cy pouf­ne dane do narzę­dzi AI, któ­re obie­cu­ją pomóc w pro­gra­mo­wa­niu lub redak­cji tek­stu. Dlatego koniecz­ne jest, aby fir­my i przed­się­bior­stwa kon­tro­lo­wa­ły sztucz­ną inte­li­gen­cję, aby zapo­biec wycie­kom wraż­li­wych danych.

Ray Canzanese, dyrek­tor ds. badań nad zagro­że­nia­mi w Netskope Threat Labs.

Zakaz wykorzystania sztucznej inteligencji?

Netskope Threat Labs śle­dzi ser­we­ry pro­xy ChatGPT i ponad tysiąc zło­śli­wych adre­sów URL oraz domen stwo­rzo­nych przez cyber­prze­stęp­ców, któ­rzy chcą wyko­rzy­stać popu­lar­ność sztucz­nej inte­li­gen­cji do kra­dzie­ży danych.

Zdaniem eks­per­tów, blo­ko­wa­nie dostę­pu do tre­ści zwią­za­nych ze sztucz­ną inte­li­gen­cją i apli­ka­cji AI tyl­ko czę­ścio­wo ogra­ni­cza ryzy­ko wypły­wu wraż­li­wych danych. Odbywa się to jed­nak kosz­tem poten­cjal­nych korzy­ści, jakie apli­ka­cje AI oferują.

Dane Netskope poka­zu­ją, że w usłu­gach finan­so­wych i opie­ce zdro­wot­nej pra­wie 1 na 5 orga­ni­za­cji wdro­ży­ła cał­ko­wi­ty zakaz korzy­sta­nia z ChatGPT przez pra­cow­ni­ków. W sek­to­rze tech­no­lo­gicz­nym tyl­ko 1 na 20 orga­ni­za­cji postą­pi­ła podobnie.

Czytaj tak­że: Sztuczna inte­li­gen­cja zre­wo­lu­cjo­ni­zu­je rolnictwo

Zamiast cał­ko­wi­tych zaka­zów, eks­per­ci Netskope radzą wpro­wa­dzić fil­tro­wa­nie domen, adre­sów URL i kon­tro­lę tre­ści w celu ochro­ny przed ata­ka­mi. Ponadto zale­ca­ją blo­ko­wa­nie dostę­pu do apli­ka­cji, któ­re nie słu­żą żad­ne­mu uza­sad­nio­ne­mu celo­wi biz­ne­so­we­mu lub sta­no­wią nie­pro­por­cjo­nal­ne ryzy­ko dla orga­ni­za­cji. Należy tak­że wdro­żyć pro­gra­my edu­ka­cyj­ne pracowników.

Wyniki są czę­ścią rapor­tu Cloud & Threat Report: AI Apps in the Enterprise. Opierając się na danych pocho­dzą­cych od milio­nów użyt­kow­ni­ków kor­po­ra­cyj­nych na całym świe­cie, Netskope stwier­dził, że wyko­rzy­sta­nie gene­ra­tyw­nych apli­ka­cji AI szyb­ko rośnie, o 22,5% w cią­gu ostat­nich dwóch mie­się­cy, zwięk­sza­jąc ryzy­ko na ujaw­nie­nie wraż­li­wych danych.