Microsoft włącza narzędzie do oceny bezpieczeństwa AI Counterfit Open Source

Firma Microsoft zmieniła swoje narzędzie do oceny ryzyka związanego ze sztuczną inteligencją, Counterfit, open-source, umożliwiając każdemu rozpoczęcie korzystania z narzędzia za darmo. Obecnie organizacje mogą używać Counterfit do automatyzacji oceny ryzyka bezpieczeństwa, zapewniając, że ochrona, z której korzystają, jest na najwyższym poziomie.

Firma Microsoft pierwotnie opracowała Counterfit jako wewnętrzne narzędzie, które może szybko ocenić bezpieczeństwo systemów sztucznej inteligencji i systemów uczenia maszynowego. Zaczęło się jako zbiór skryptów, zanim szybko przekształcił się w ogólną automatyzację sztucznej inteligencji, której operator może użyć do „ataku na wiele systemów sztucznej inteligencji” jednocześnie.

Obecnie Microsoft regularnie używa Counterfit jako podstawowego narzędzia w swoich działaniach czerwonego zespołu AI. Ponieważ Counterfit jest niezależny od środowiska, modelu i danych, narzędzie może zapewnić precyzyjną ocenę bez impedancji.

Samo narzędzie jest przeznaczone do użytku przez specjalistów ds. Bezpieczeństwa. Counterfit wykorzystuje podobne przepływy pracy do innych popularnych narzędzi zespołu czerwonego, takich jak Metasploit lub PowerShell Empyre, z szerokim wsparciem do obsługi skryptów, wstępnie załadowanych algorytmów ataków, skanowania luk w zabezpieczeniach, zaawansowanego rejestrowania i nie tylko, dostęp z wiersza poleceń.

Microsoft intensywnie współpracował ze specjalistami ds. Bezpieczeństwa i dużymi organizacjami, aby lepiej rozwijać Counterfit. Na Blog firmy Microsoft dotyczący zabezpieczeń, Matilda Rhode, starszy badacz ds. Cyberbezpieczeństwa w firmie Airbus, powiedziała:

Sztuczna inteligencja jest coraz częściej wykorzystywana w przemyśle; ważne jest, aby spojrzeć w przyszłość, aby zabezpieczyć tę technologię, szczególnie po to, aby zrozumieć, gdzie w przestrzeni problemowej można przeprowadzić ataki obiektowe. Wydanie narzędzi open source od organizacji, takich jak Microsoft, do oceny przez specjalistów ds. Bezpieczeństwa bezpieczeństwo systemów SI jest zarówno mile widziane, jak i wyraźna wskazówka, że ​​branża podejmuje ten problem poważnie.

Możesz znaleźć open-source Microsoft Counterfit na ich oficjalnym GitHubie.

Związane z: Zadania, o których nigdy nie wiedziałeś, zostały wykonane przez sztuczną inteligencję

Dlaczego Counterfit jest przydatny?

Nawet dla firmy wielkości Microsoft przeprowadzenie skutecznych ocen bezpieczeństwa nie jest łatwe, zwłaszcza gdy są to ogromne liderzy z listy Fortune 500, rządy, organizacje non-profit i nie tylko. Poprzednie badanie firmy Microsoft wykazało, że wiele firm nie jest w stanie dokładnie przetestować swoich systemów sztucznej inteligencji.

Okazało się, że 25 z 28 firm wskazało, że nie ma odpowiednich narzędzi do zabezpieczenia swoich systemów sztucznej inteligencji, a specjaliści ds. Bezpieczeństwa szukają konkretnych wskazówek w tej dziedzinie.

Counterfit ułatwia wykonywanie tych ocen, automatyzując proces analizy i testowania.

Związane z: Sposoby wykorzystania technologii AI do usprawnienia działalności

Ponadto niedawno opublikowany Badanie Gartnera wymienił przyjęcie zabezpieczeń sztucznej inteligencji jako jeden z najważniejszych środków bezpieczeństwa, jakie firma może podjąć w celu poprawy ochrony. W tym samym badaniu zauważono, że „do 2024 r. Organizacje wdrażające dedykowane mechanizmy kontroli zarządzania ryzykiem sztucznej inteligencji z powodzeniem unikną negatywnych skutków sztucznej inteligencji dwukrotnie częściej niż te, które tego nie robią”.

Krótko mówiąc, Counterfit staje się narzędziem do oceny bezpieczeństwa sztucznej inteligencji typu open source, co powinno pomóc uczynić świat nieco bezpieczniejszym miejscem.

Te 4 narzędzia antywirusowe wykorzystują sztuczną inteligencję do ochrony systemu

Czy Twoja następna subskrypcja oprogramowania antywirusowego musi obejmować sztuczną inteligencję, czy jest to tylko kolejne hasło na temat bezpieczeństwa?

Czytaj dalej

O autorze