Samouczące się systemy – zagrożenie dla bezpieczeństwa?

Istnienie systemów, które uczą się reagowania na różne powtarzalne zjawiska, to przeniesienie do rzeczywistości rozwiązań prognozowanych przez miłośników technologii przyszłości. Rdzeniem takich systemów jest oczywiście sztuczna inteligencja, której możliwości są ciągle rozwijane. Można dużo mówić o zaletach oprogramowania lub usług, uczących się samodzielnie podczas pracy z użytkownikami. Coś takiego niesie ze sobą jednak pewne zagrożenia.

Ukierunkowane na cel

Skoro możliwe jest nauczenie sztucznej inteligencji odpowiedniego reagowania na „bodziec” z zewnątrz, można to wykorzystać do różnych, niekoniecznie dobrych celów. Dzięki zautomatyzowanym działaniom można w krótkim czasie nauczyć system reagowania w sposób, który otworzy jakąś furtkę lub pozwoli na wywołanie błędu (a takich nie da się praktycznie nigdy ustrzec). Szybkość uczenia się jest w sytuacji takiej zarówno zaletą, jak i wadą, bo wypracowanie reakcji innej niż wyuczona nie pozwoli z miejsca przeciwdziałać zagrożeniu.

Szybki dostęp do danych

Systemy wykorzystujące sztuczną inteligencję muszą być instalowane z zapewnieniem im ogromnej mocy obliczeniowej. Tak duża moc sprowadza wiele działań do jednego kliknięcia i sekundy oczekiwania. To, co z jednej strony pomaga użytkownikom, jest też dużym ułatwieniem dla, np. cyberprzestępców, którzy w krótkim czasie mogą zyskać dostęp do całej bazy danych. Z prognoz wynika, że każde potknięcie po stronie administratorów sieci lub właścicieli firm będzie znacznie poważniejsze w skutkach.

Na co należy uważać?

Ponieważ odchodzi się od jakichkolwiek form przechowywania danych „wewnątrz” sieci, istotne staje się ich maksymalne bezpieczeństwo. Dane znajdujące się na zewnętrznych dyskach, najczęściej wirtualnych, lub w tzw. chmurze, gwarantują wszystkim użytkownikom znacznie większą dynamikę oraz zmniejszone zagrożenie związane z fizyczną awarią nośnika. Pojawiają się jednak nowe zagrożenia, które w porę wykryć muszą twórcy antywirusów i oprogramowania typu security. Jedną z metod limitowania powagi zagrożenia jest stosowanie danych rozproszonych – zamiast jednego potężnego centrum danych używa się dużej ilości mniejszych centrów współpracujących ze sobą, ale jednocześnie zupełnie odrębnych. Podczas przechowywania ważnych danych w zewnętrznej chmurze lub korzystania z takich rozwiązań m.in. na potrzeby firmy należy zwrócić uwagę w szczególności na rozproszenie baz danych oraz unikanie jednego dostawcy usług – w razie awarii jest się odciętym tylko od części, a nie od wszystkich, możliwości.