Microsoft предупреди за опасностите от "сенчестия ИИ"
Повечето компании нямат ясни правила за използването на изкуствения интелект
Американската технологична компания Microsoft отправи категорично предупреждение срещу безконтролното използване на автономни софтуерни асистенти, използващи изкуствен интелект (ИИ), в навечерието на Мюнхенската конференция по сигурността, предаде ДПА.
В доклад, публикуван днес, изследователи от Microsoft посочват, че ИИ асистентите вече се използват за програмиране в над 80 процента от компаниите, включени в списъка "Форчън 500".
Въпреки това, според технологичния гигант, повечето компании нямат ясни правила за използването на ИИ, чието бързо разпространение създава неизброими рискове. Липсата на надзор от страна на отговорните лица и "сенчестият ИИ" отварят вратата за нови методи на атака, се добавя в доклада.
Висшите ръководители не знаят нищо за използването на изкуствен интелект
Под "сенчест изкуствен интелект" се разбира използването на инструменти, работещи с изкуствен интелект, от служители без знанието или официалното одобрение на ИИ отдела или звената за сигурност на съответната компания. Служителите самостоятелно използват инструменти или платформи за изкуствен интелект от интернет, например автономно действащи компютърни програми, за да изпълняват задачите си по-бързо, без да информират никого от йерархията на компанията.
Докладът на Microsoft отправя предупреждение за разрастващата се пропаст между иновациите и сигурността.
Докато използването на ИИ нараства експлозивно, дори половината от компаниите (или 47 процента) нямат конкретни мерки за сигурност по отношение на генеративния ИИ, а 29 процента от служителите вече използват неразрешени ИИ платформи в работата си. Това създава "слепи петна" в корпоративната сигурност.
Според експертите на Microsoft рискът се увеличава, ако компаниите не отделят достатъчно време в процеса на въвеждане на ИИ. Бързото внедряване на ИИ платформи може да заобиколи мерките за сигурност и съгласуваност с регулаторните разпоредби и да засили риска от "сенчест ИИ", се подчертава в доклада.