Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Bądź na bieżąco!

Zapisz się do newslettera

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Pomóż w rozwoju naszego portalu

Wspieram

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Reklama

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

2020-12-17 20:25

Oceń: +4 0

Reklama

Wybrane dla Ciebie

Cyberatak na Konferencję Biskupów Niemiec

[ TEMATY ]

Niemcy

haker

cyberatak

Konferencja Biskupów

Bonn

Adobe Stock

Hakerzy zaatakowali Konferencję Biskupów Niemiec

Hakerzy zaatakowali Konferencję Biskupów Niemiec

Sekretariat Konferencji Biskupów Niemiec w Bonn padł ofiarą profesjonalnego cyberataku. „Do ataku przyznała się grupa hakerów powiązana ze zorganizowaną przestępczością internetową” - poinformowała Konferencja Biskupów w Bonn.

Do ataku doszło późnym popołudniem w poniedziałek 10 lutego. Natychmiast uruchomiono plany awaryjne, odłączono od internetu systemy informatyczne i poinformowano właściwe organy śledcze oraz inspektora ochrony danych. „Obecnie zewnętrzni specjaliści ds. informatyki śledczej badają, w jaki sposób atakującym udało się zinfiltrować wielopoziomowe systemy bezpieczeństwa IT” - stwierdzono w oświadczeniu. Z powodu ataku sekretariat episkopatu jest obecnie dostępny tylko częściowo za pośrednictwem poczty e-mailowej.
CZYTAJ DALEJ

Przesłanie, które płynie z dzisiejszej Ewangelii mówi, że nie wystarcza sama chęć pomagania

2025-07-10 21:29

[ TEMATY ]

rozważania

O. prof. Zdzisław Kijas

Adobe Stock

Czytamy następnie, że Samarytanin: „Podszedł do niego i opatrzył mu rany, zalewając je oliwą i winem”. To również ważne przesłanie, które płynie do nas z dzisiejszej Ewangelii. Mówi ono, że nie wystarcza tylko sama chęć pomagania. Ważne jest, aby pomagać mądrze, aby pomoc, którą chcemy nieść, była dostosowana do warunków, sytuacji i potrzeb osoby pokrzywdzonej.

Powstał jakiś uczony w Prawie i wystawiając Jezusa na próbę, zapytał: «Nauczycielu, co mam czynić, aby osiągnąć życie wieczne?» Jezus mu odpowiedział: «Co jest napisane w Prawie? Jak czytasz?» On rzekł: «Będziesz miłował Pana, Boga swego, całym swoim sercem, całą swoją duszą, całą swoją mocą i całym swoim umysłem; a swego bliźniego jak siebie samego». Jezus rzekł do niego: «Dobrze odpowiedziałeś. To czyń, a będziesz żył». Lecz on, chcąc się usprawiedliwić, zapytał Jezusa: «A kto jest moim bliźnim?» Jezus, nawiązując do tego, rzekł: «Pewien człowiek schodził z Jeruzalem do Jerycha i wpadł w ręce zbójców. Ci nie tylko go obdarli, lecz jeszcze rany mu zadali i zostawiwszy na pół umarłego, odeszli. Przypadkiem przechodził tą drogą pewien kapłan; zobaczył go i minął. Tak samo lewita, gdy przyszedł na to miejsce i zobaczył go, minął. Pewien zaś Samarytanin, wędrując, przyszedł również na to miejsce. Gdy go zobaczył, wzruszył się głęboko: podszedł do niego i opatrzył mu rany, zalewając je oliwą i winem; potem wsadził go na swoje bydlę, zawiózł do gospody i pielęgnował go. Następnego zaś dnia wyjął dwa denary, dał gospodarzowi i rzekł: „Miej o nim staranie, a jeśli co więcej wydasz, ja oddam tobie, gdy będę wracał”. Kto z tych trzech okazał się według ciebie bliźnim tego, który wpadł w ręce zbójców?» On odpowiedział: «Ten, który mu okazał miłosierdzie». Jezus mu rzekł: «Idź i ty czyń podobnie!»
CZYTAJ DALEJ

Bp Mering na Jasnej Górze: granice naszego kraju zagrożone tak samo z zachodu jak i wschodu

2025-07-13 07:14

[ TEMATY ]

bp Wiesław Mering

Pielgrzymka Rodziny Radia Maryja

zrzut ekranu yt

Bp Wiesław Mering

Bp Wiesław Mering

Granice naszego kraju tak samo z zachodu jak i wschodu są zagrożone - mówił bp Wiesław Mering z Włocławka podczas sobotniej wieczornej Mszy św. dla uczestników pielgrzymki Rodziny Radia Maryja.

W homilii bp Mering mówił m.in. o wadze Kościoła jako wspólnoty, w której dokonuje się zbawienie, a także cytował papieża Benedykta XVI, że „jaką przyszłość będzie miał Kościół, taką przyszłość będzie miała cała Europa”.
CZYTAJ DALEJ

Reklama

Najczęściej czytane

REKLAMA

W związku z tym, iż od dnia 25 maja 2018 roku obowiązuje Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia Dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) uprzejmie Państwa informujemy, iż nasza organizacja, mając szczególnie na względzie bezpieczeństwo danych osobowych, które przetwarza, wdrożyła System Zarządzania Bezpieczeństwem Informacji w rozumieniu odpowiednich polityk ochrony danych (zgodnie z art. 24 ust. 2 przedmiotowego rozporządzenia ogólnego). W celu dochowania należytej staranności w kontekście ochrony danych osobowych, Zarząd Instytutu NIEDZIELA wyznaczył w organizacji Inspektora Ochrony Danych.
Więcej o polityce prywatności czytaj TUTAJ.

Akceptuję