Cisco Foundation AI i Hugging Face wzmacniają bezpieczeństwo łańcucha dostaw AI

Platforma Hugging Face rośnie w zawrotnym tempie – średnio co 7 sekund trafia na nią nowy model AI, a obecnie udostępnia już prawie 1,9 miliona modeli dla programistów na całym świecie. Ta niespotykana skala, napędzana przez społeczność obejmującą zarówno instytucje, jak i niezależnych twórców, przyczynia się do ogromnego postępu, ale równocześnie uwypukla potrzebę zabezpieczenia łańcucha dostaw sztucznej inteligencji.

Jak podkreślają badania Cisco, zagrożenia w obszarze AI mogą pojawić się na każdym etapie cyklu życia technologii, od podatnych bibliotek i plików modeli zawierających złośliwe elementy, po zainfekowane lub niezgodne z normami zbiory danych. Skala i złożoność tych problemów sprawiają, że żadna organizacja nie jest w stanie skutecznie radzić sobie z nimi samodzielnie. Dlatego niezbędna jest współpraca całej społeczności, by wspólnie podnosić poziom bezpieczeństwa w świecie AI.

Nowy etap współpracy z Hugging Face

Cisco od lat wspiera organizacje na całym świecie w bezpiecznej realizacji strategii związanych ze sztuczną inteligencją. Teraz idzie o krok dalej, rozpoczynając strategiczną współpracę zespołu Foundation AI z Hugging Face, największym na świecie repozytorium modeli AI. Połączenie doświadczenia Cisco w ochronie infrastruktury cyfrowej z centralną rolą Hugging Face w rozwoju otwartego AI ma na celu zapewnienie jeszcze wyższego poziomu bezpieczeństwa.

W ramach tej współpracy Cisco Foundation AI wprowadza skanowanie wszystkich plików przesyłanych na Hugging Face, zarówno modeli, jak i innych zasobów, wykorzystując zaktualizowany silnik ClamAV z dedykowanymi mechanizmami wykrywania zagrożeń. Dzięki temu możliwa jest dokładniejsza weryfikacja modeli, szybsze wykrywanie podatności oraz dzielenie się informacjami o zagrożeniach w całym ekosystemie.

– Jesteśmy podekscytowani współpracą z Cisco Foundation AI, aby lepiej chronić użytkowników Hugging Face. Od kilku lat korzystamy z ClamAV, darmowego i otwartego narzędzia Cisco Talos do wykrywania złośliwego oprogramowania. Dzięki najnowszej aktualizacji możemy oferować ochronę zarówno przed tradycyjnymi zagrożeniami, jak i tymi specyficznymi dla modeli AI, a wszystko w jednym narzędziu. Cieszymy się, że Cisco wspiera nas w skanowaniu wszystkich plików przesyłanych na naszą platformę. To połączenie lidera otwartego AI z głęboką wiedzą Cisco w obszarze cyberbezpieczeństwa daje organizacjom i użytkownikom na całym świecie większą pewność w korzystaniu ze sztucznej inteligencji – podkreśla Julien Chaumond, CTO Hugging Face.

ClamAV dla modeli AI

Efektem współpracy jest także udostępnienie nowych funkcji ClamAV wszystkim użytkownikom:

Wykrywanie złośliwego kodu w modelach AI – ClamAV potrafi teraz identyfikować m.in. ryzyka związane z deserializacją w popularnych formatach, takich jak .pt czy .pkl. Co ważne, dzieje się to w milisekundach, a nie minutach.

Jedyny silnik antywirusowy skoncentrowany na AI w VirusTotal – ClamAV jako jedyne narzędzie wykrywa złośliwe modele zarówno na Hugging Face, jak i w platformie VirusTotal, która analizuje przesyłane pliki pod kątem zagrożeń.

Cisco już wcześniej wprowadziło Cerberusa, rozwiązanie działające 24/7, które bada modele pojawiające się na Hugging Face i udostępnia wyniki w formie ustandaryzowanych raportów. Teraz, dzięki ClamAV 1.5, możliwa jest jeszcze dokładniejsza analiza modeli AI oraz wykrywanie zagrożeń charakterystycznych tylko dla tego typu plików.

Ochrona na każdym etapie

Nowe możliwości ClamAV są już dostępne w produktach Cisco zintegrowanych z usługami Talos. Użytkownicy Cisco Secure Access mogą m.in. kontrolować dostęp do repozytoriów Hugging Face, blokować podejrzane modele, a także egzekwować zgodność z politykami bezpieczeństwa dotyczącymi licencji czy pochodzenia modeli.

Cisco rozszerzyło ochronę łańcucha dostaw AI także w innych produktach, takich jak Secure Endpoint, Secure Email Threat Defense, Secure Firewall, Secure Access czy AI Defense. Użytkownicy tych rozwiązań już teraz korzystają z dodatkowych zabezpieczeń przed zagrożeniami w obszarze AI.