PolskaNowe zagrożenie dla świata informacji - Hakerzy znaleźli sposób na zatruwanie danych platform AI

Nowe zagrożenie dla świata informacji - Hakerzy znaleźli sposób na zatruwanie danych platform AI

Nowy rodzaj zagrożenia dla naszego życia i otrzymywanych informacji. Hakerzy zatruwają na dużą skalę systemyAI, zaprojektowane do nauki na podstawie danych, które otrzymują, co czyni je podatnymi na takie oszustwa – ujawnili eksperci Check Point Software podczas konferencji CPX 2025. Zatrucie danych może przybrać różne formy, od subtelnych zmian w danych po wprowadzenie całkowicie sfałszowanych zestawów informacji i grafiki.

sztuczna inteligencja
sztuczna inteligencja
Źródło zdjęć: © Licencjodawca | AI

Cyberprzestępcy mogą zmienić niewielki odsetek zdjęć, by wyglądały na należące do innej kategorii, co może zmylić model AI. Taki atak często pozostaje niezauważony, dopóki system AI nie zostanie wdrożony w rzeczywistych warunkach, co czyni go szczególnie niebezpiecznym.

Zatrucie danych jest jak trucizna, która wnika do zdrowego systemu, zatruwając jego funkcjonalność. Zatrucie danych może również umożliwić atakującym przeprowadzenie ataków phishingowych. Scenariusz phishingowy może polegać na tym, że atakujący trują system AI obsługi klienta, aby bot skierował użytkowników na sztucznie stworzoną stronę phishingową kontrolowaną przez atakujących. Dodając integracje API, można stworzyć scenariusz, w którym atakujący mogą łatwo wykradać wszelkie dane, które użytkownik nieświadomie udostępni chatbotowi.

Zatrucie danych może pozwolić atakującym na wprowadzenie dezinformacji w celu zmiany zachowania modelu. Zatrucie danych treningowych używanych podczas tworzenia modelu LLM pozwala atakującym na modyfikowanie sposobu, w jaki model zachowuje się po wdrożeniu. Może to prowadzić do mniej przewidywalnego, bardziej podatnego na błędy modelu. Może to także skutkować generowaniem mowy nienawiści lub teorii spiskowych.

Rola sztucznej inteligencji w urządzeniach medycznych

Urządzenia medyczne wspomagane przez sztuczną inteligencję rewolucjonizują opiekę zdrowotną. Pomagają analizować dane z zawrotną prędkością, dostarczają analiz predykcyjnych i zwiększają możliwości monitorowania pacjentów. Jednak ta innowacja wiąże się z wyzwaniami. Zagrożenia cybernetyczne czają się w cieniu, gotowe wykorzystać luki w systemach.

Zatruwanie systemów sztucznej inteligencji, szczególnie w urządzeniach medycznych, oznacza to celowe wprowadzenie złośliwych danych do zestawu szkoleniowego. Cel? Zniekształcenie wyników AI, co prowadzi do błędnych decyzji, które mogą zagrażać bezpieczeństwu pacjentów. Wyobraźmy sobie system AI do analizy obrazów medycznych, który został wytrenowany na tysiącach zdjęć rentgenowskich. Jeśli atakujący wprowadzi zmodyfikowane obrazy, model może błędnie zinterpretować, jak wygląda zdrowe zdjęcie rentgenowskie. Może to wprowadzić w błąd lekarzy i prowadzić do poważnych zagrożeń zdrowotnych.

Integracja AI w urządzeniach medycznych umożliwia podejmowanie decyzji w czasie rzeczywistym, co może znacząco poprawić wyniki leczenia pacjentów. Na przykład algorytmy AI mogą szybciej wykrywać nieprawidłowości w oznakach życiowych niż ludzie, co pozwala na natychmiastową interwencję medyczną. Jednak ta zależność od technologii budzi obawy dotyczące potencjalnych konsekwencji cyberataku.

Sztuczna inteligencja w urządzeniach medycznych w dużej mierze polega na danych, aby zapewnić dokładność diagnozy. Zatrucie tych danych może prowadzić do katastrofalnych wyników. Skutki takich ataków wykraczają poza błędny wynik badania. Mogą prowadzić do poważnych konsekwencji finansowych dla szpitali, utraty zaufania pacjentów do opieki zdrowotnej. W skrajnych przypadkach procedury ratujące życie mogą zostać opóźnione lub stać się nieskuteczne.

Ale skutki zatrucia danych nie ograniczają się tylko do bezpośredniej opieki nad pacjentem. Mogą również hamować rozwój technologii AI w medycynie. W miarę jak dostawcy usług medycznych stają się coraz bardziej zależni od AI w diagnostyce i rekomendacjach terapeutycznych, kilka głośnych niepowodzeń spowodowanych przez zatrucie danych może prowadzić do powszechnego sceptycyzmu wobec niezawodności systemów AI. Taki sceptycyzm może spowolnić integrację korzystnych technologii AI w opiece zdrowotnej, co ostatecznie pozbawi pacjentów innowacji, które mogłyby poprawić ich opiekę. Walka z zatruciem danych to nie tylko kwestia ochrony pojedynczych pacjentów; chodzi o zabezpieczenie przyszłości samej technologii medycznej – podkreślają eksperci firmy Check Point podczas konferencji CPX 2025 w Wiedniu.

Wybrane dla Ciebie

Cenimy Twoją prywatność

Kliknij "AKCEPTUJĘ I PRZECHODZĘ DO SERWISU", aby wyrazić zgodę na korzystanie w Internecie z technologii automatycznego gromadzenia i wykorzystywania danych oraz na przetwarzanie Twoich danych osobowych przez iPolska24, Wirtualną Polskę, Zaufanych Partnerów IAB (878 partnerów) oraz Zaufanych Partnerów WP (405 partnerów) a także udostępnienie przez nas ww. Zaufanym Partnerom przypisanych Ci identyfikatorów w celach marketingowych (w tym do zautomatyzowanego dopasowania reklam do Twoich zainteresowań i mierzenia ich skuteczności) i pozostałych, które wskazujemy poniżej. Możesz również podjąć decyzję w sprawie udzielenia zgody w ramach ustawień zaawansowanych.


Na podstawie udzielonej przez Ciebie zgody iPolska24, Wirtualna Polska, Zaufani Partnerzy IAB oraz Zaufani Partnerzy WP będą przetwarzać Twoje dane osobowe zbierane w Internecie (m.in. na serwisach partnerów e-commerce), w tym za pośrednictwem formularzy, takie jak: adresy IP, identyfikatory Twoich urządzeń i identyfikatory plików cookies oraz inne przypisane Ci identyfikatory i informacje o Twojej aktywności w Internecie. Dane te będą przetwarzane w celu: przechowywania informacji na urządzeniu lub dostępu do nich, wykorzystywania ograniczonych danych do wyboru reklam, tworzenia profili związanych z personalizacją reklam, wykorzystania profili do wyboru spersonalizowanych reklam, tworzenia profili z myślą o personalizacji treści, wykorzystywania profili w doborze spersonalizowanych treści, pomiaru wydajności reklam, pomiaru wydajności treści, poznawaniu odbiorców dzięki statystyce lub kombinacji danych z różnych źródeł, opracowywania i ulepszania usług, wykorzystywania ograniczonych danych do wyboru treści.


W ramach funkcji i funkcji specjalnych iPolska24 może podejmować następujące działania:

  1. Dopasowanie i łączenie danych z innych źródeł
  2. Łączenie różnych urządzeń
  3. Identyfikacja urządzeń na podstawie informacji przesyłanych automatycznie
  4. Aktywne skanowanie charakterystyki urządzenia do celów identyfikacji

Cele przetwarzania Twoich danych przez Zaufanych Partnerów IAB oraz Zaufanych Partnerów WP są następujące:

  1. Przechowywanie informacji na urządzeniu lub dostęp do nich
  2. Wykorzystywanie ograniczonych danych do wyboru reklam
  3. Tworzenie profili w celu spersonalizowanych reklam
  4. Wykorzystanie profili do wyboru spersonalizowanych reklam
  5. Tworzenie profili w celu personalizacji treści
  6. Wykorzystywanie profili w celu doboru spersonalizowanych treści
  7. Pomiar efektywności reklam
  8. Pomiar efektywności treści
  9. Rozumienie odbiorców dzięki statystyce lub kombinacji danych z różnych źródeł
  10. Rozwój i ulepszanie usług
  11. Wykorzystywanie ograniczonych danych do wyboru treści
  12. Zapewnienie bezpieczeństwa, zapobieganie oszustwom i naprawianie błędów
  13. Dostarczanie i prezentowanie reklam i treści
  14. Zapisanie decyzji dotyczących prywatności oraz informowanie o nich

W ramach funkcji i funkcji specjalnych Wirtualna Polska, Zaufani Partnerzy IAB oraz Zaufani Partnerzy WP mogą podejmować następujące działania:

  1. Dopasowanie i łączenie danych z innych źródeł
  2. Łączenie różnych urządzeń
  3. Identyfikacja urządzeń na podstawie informacji przesyłanych automatycznie
  4. Aktywne skanowanie charakterystyki urządzenia do celów identyfikacji

Dla podjęcia powyższych działań Wirtualna Polska, Zaufani Partnerzy IAB oraz Zaufani Partnerzy WP również potrzebują Twojej zgody, którą możesz udzielić poprzez kliknięcie w przycisk "AKCEPTUJĘ I PRZECHODZĘ DO SERWISU" lub podjąć decyzję w sprawie udzielenia zgody w ramach ustawień zaawansowanych.


Cele przetwarzania Twoich danych bez konieczności uzyskania Twojej zgody w oparciu o uzasadniony interes iPolska24, Wirtualnej Polski, Zaufanych Partnerów IAB oraz możliwość sprzeciwienia się takiemu przetwarzaniu znajdziesz w ustawieniach zaawansowanych.


Cele, cele specjalne, funkcje i funkcje specjalne przetwarzania szczegółowo opisujemy w ustawieniach zaawansowanych.


Serwisy partnerów e-commerce WP, z których WP może przetwarzać Twoje dane osobowe na podstawie udzielonej przez Ciebie zgody znajdziesz tutaj.


Zgoda jest dobrowolna i możesz ją w dowolnym momencie wycofać wywołując ponownie okno z ustawieniami poprzez kliknięcie w link "Ustawienia prywatności" znajdujący się w stopce każdego serwisu.


Pamiętaj, że udzielając zgody Twoje dane będą mogły być przekazywane do naszych Zaufanych Partnerów IAB i Zaufanych Partnerów WP z państw trzecich tj. z państw spoza Europejskiego Obszaru Gospodarczego.


Masz prawo żądania dostępu, sprostowania, usunięcia, ograniczenia, przeniesienia przetwarzania danych, złożenia sprzeciwu, złożenia skargi do organu nadzorczego na zasadach określonych w polityce prywatności iPolska24.


Korzystanie z witryny bez zmiany ustawień Twojej przeglądarki oznacza, że pliki cookies będą umieszczane w Twoim urządzeniu końcowym. W celu zmiany ustawień prywatności możesz kliknąć w link Ustawienia zaawansowane lub "Ustawienia prywatności" znajdujący się w stopce każdego serwisu w ramach których będziesz mógł udzielić, odwołać zgodę lub w inny sposób zarządzać swoimi wyborami. Szczegółowe informacje na temat przetwarzania Twoich danych osobowych znajdziesz w polityce prywatności iPolska24.