Podczas tegorocznego finału Super Bowl wyświetlono reklamę, która w tym kontekście wywołała spore kontrowersje. Chodziło o prezentację nowej funkcji Search Party w oprogramowaniu firmy Ring, należącego do Amazon producenta kamer monitoringu oraz wideodomofonów. Reklamowana opcja została stworzona z myślą o pomocy w poszukiwaniu zaginionych psów. Jeżeli pupil ucieknie z posesji, jego właściciel może przesłać zdjęcie zwierzęcia do aplikacji i zgłosić jego zaginięcie, uruchamiając funkcję Search Party. Wykorzystuje ona sztuczną inteligencję do analizowania nagrań z zamontowanych na pobliskich domach kamer i wideofonów marki Ring pod kątem pojawienia się w ich zasięgu poszukiwanego czworonoga.
Twórcy aplikacji deklarują, że algorytmy AI, na których bazuje funkcja Search Party wytrenowano na dziesiątkach tysięcy nagrań z psami. Dzięki temu potrafią je zidentyfikować na podstawie rasy, rozmiaru, różnych cech charakterystycznych. Jeśli pies zostanie rozpoznany można na tej podstawie ustalić jego ostatnią znaną lokalizację. Wówczas aplikacja automatycznie powiadamia właściciela urządzenia, które zarejestrowało zwierzę. Może on udostępnić nagranie albo nawiązać bezpośredni kontakt z właścicielem psa, ale ma również prawo tego odmówić. Twórcy aplikacji zapewniają, że to użytkownik decyduje o tym, czy chce pomóc w poszukiwaniach, a jego dane są przez cały czas chronione.
Kontrowersyjna funkcja
Niestety, gwarancje te nie przekonują opinii publicznej. Wręcz przeciwnie, zaraz po tym jak funkcja Search Party zyskała ogólnokrajowy rozgłos dzięki zaprezentowaniu w przerwie finału mistrzostw w futbolu amerykańskim, na portalu X.com rozpoczęła się na jej temat burzliwa dyskusja. Wiele osób, wśród nich znani politycy, wyraziło swoje obawy, twierdząc, że stanowi ona kolejny przykład naruszenia prywatności z wykorzystaniem nowoczesnych technologii. Zasadniczy zarzut dotyczył tego, że tak naprawdę wcale nie chodzi o psy, ale o masową inwigilację i nadzór, ponieważ funkcja Search Party może potencjalnie zostać wykorzystana też do identyfikowania i poszukiwania ludzi, szczególnie w połączeniu z funkcją Familiar Faces, także dostępną w kamerach Ring (jak i innych firm). Na podstawie danych zapisanych na koncie użytkownika, do których jedynie on ma dostęp, Familiar Faces odróżnia jego znajomych od osób obcych.
Przedstawiciele firmy oczywiście odpierali te zarzuty zapewniając, że Search Party stworzono z myślą o poszukiwaniach jedynie psów, chociaż w przyszłości ma być też pomocna w identyfikacji zaginionych kotów. Szczególnie akcentowano to, że Ring nie udostępnia nagrań automatycznie, pozostawiając decyzję o tym właścicielom kamer. W tym jednak zdaniem specjalistów z dziedziny prywatności danych właśnie tkwi haczyk. Zgoda jest wyrażana w chwili udostępnienia nagrania, a nie wtedy, gdy jest ono wraz z innymi nagraniami przechowywanymi w chmurze analizowane przez sztuczną inteligencję. Jeżeli bowiem ktoś korzysta z kamery lub wideodomofonu tej marki, których oprogramowanie automatycznie zapisuje dane na zdalnym serwerze, również automatycznie godzi się na włączenie w nim funkcji Search Party.
Zatem w praktyce to na właścicielu domu spoczywa obowiązek podjęcia decyzji, czy udostępnienie nagrania, na którym widać osoby oraz obiekty znajdujące się obok zaginionego zwierzęcia, może naruszyć prywatność jego samego, jego sąsiadów, jego lub ich gości, jak również przypadkowych przechodniów. Chociaż pod tym względem zasady, które obowiązują użytkowników funkcji Search Party przypominają odpowiedzialność, jaką ponoszą osoby, które udostępniają zdjęcia oraz filmy w mediach społecznościowych, wielu obawia się o to, jak nowa funkcjonalność kamer marki Ring może zostać wykorzystywana w przyszłości. Chodzi głównie o to, że nagrania mogłoby zostać przekazane władzom federalnym albo lokalnym wbrew woli (i bez świadomości) osób, które się na nich przypadkowo znalazły.
Pytania stawiane przez internautów, takie jak: jaką mamy gwarancję, że ta funkcja będzie wykorzystywana wyłącznie do znajdowania zaginionych psów, jeżeli organy ścigania wymuszą na firmie Ring udostępnianie nagrań i uruchomienie modeli AI również w celu odnalezienia osób podejrzewanych o popełnienie przestępstwa albo nielegalnych imigrantów? wyraźnie świadczą o powszechnym ograniczonym zaufaniu do dostawców takich rozwiązań. W związku z tym w sieci natychmiast pojawiły się liczne poradniki, wyjaśniające krok po kroku, jak można tę problematyczną funkcję w oprogramowaniu urządzeń marki Ring wyłączyć.
Elektroniczne nianie
Wideofony i kamery monitoringu to nie jedyne urządzenia, które pod pretekstem implementacji wysoce zaawansowanych funkcji gromadzą wrażliwe dane użytkowników. Kolejnym przykładem są tzw. elektroniczne nianie. W podstawowej wersji te urządzenia jedynie przesyłają dźwięk i obraz z nadajnika znajdującego się w pokoju dziecka do odbiornika, który noszą przy sobie rodzice. Obecnie dostępne urządzenia tego rodzaju pod względem funkcjonalności te tradycyjne znacząco jednak przewyższają.
Nowoczesne elektroniczne nianie wyposażane są nie tylko w kamery i mikrofony, ale też w głośniki, termometry, wykrywające gorączkę, czujniki ruchu i inne sensory, na przykład wbudowane w kocyk lub w matę, które pozwalają się upewnić, że dziecko oddycha albo w skarpetkę, które monitorują jego tętno oraz poziom nasycenia krwi tlenem. Umożliwia to wczesne wykrywanie oznak najgorszych koszmarów rodziców, jak zespół nagłej śmierci łóżeczkowej i niedotlenienie.
Urządzenia, które wykorzystują sztuczną inteligencję dodatkowo są w stanie analizować zachowanie dziecka, by ocenić poziom jego bezpieczeństwo i sklasyfikować jego nastrój. Na przykład, wykorzystując algorytmy AI w celu analizowania obrazu twarzy, wysyłają alerty, jeżeli wykryją, że usta i nos są zasłonięte, co grozi uduszeniem albo kiedy dziecko jest niespokojne lub płacze. Sygnalizują także potencjalnie niebezpieczne sytuacje, jak przewrócenie się na brzuszek podczas snu i to, że dziecko wymotuje.
Producenci najbardziej zaawansowanych elektronicznych niań deklarują, że są nawet w stanie na podstawie analizy wzorców zachowań wskazać powód płaczu stwierdzając, że dziecko jest głodne, śpiące albo sygnalizuje potrzebę zmiany pieluchy. Urządzenia te dodatkowo próbują dziecko uspokoić, odtwarzając kojącą muzykę i emitując światło, które dobierają analizując wpływ różnych dźwięków i parametrów oświetlenia na jego nastrój. Ten z kolei oceniają wykrywając uśmiech. Dostępne są również elektroniczne nianie, które monitorują postępy w rozwoju dziecka.
Główne wady
Elektroniczne nianie o tak zaawansowanej funkcjonalności mają wielu krytyków, przede wszystkim wśród pediatrów oraz psychologów. Twierdzą oni, że producenci tych urządzeń żerują na obawach rodziców. Specjaliści obawiają się również, że mogą one uśpić ich czujność, zapewniając fałszywe poczucie bezpieczeństwa, a zbytnie poleganie na nich może łatwo skończyć się tragedią. Poza tym producenci reklamują je jako dodatkową parę oczu i uszu, które pozwalają rodzicom nadzorować dziecko, kiedy nie ma ich przy nim. To powinno pozytywnie wpływać na zdrowie psychiczne opiekunów, tymczasem uzyskuje się często skutek odwrotny. To wynika stąd, że możliwość otrzymania w każdej chwili powiadomienia o tym, że z dzieckiem dzieje się coś niedobrego wprowadza rodziców w stan nieustannego napięcia. Z kolei częste fałszywe alarmy mogą skutkować zbagatelizowaniem rzeczywistego problemu.
Poza tym ważna jest także kwestia prywatności związana z tym, że tego typu urządzenia gromadzą na zdalnych serwerach nagrania z intymnych momentów w codzienności dziecka, często już od pierwszych tygodni jego życia. Takie dane są kopalnią wiedzy dla agencji reklamowych, jak i dostawców produktów dla dzieci (higienicznych, zabawek, żywności). Z kolei w razie włamania się hakerów do chmury, gdzie są zapisywane, jeśli zostaną wykradzione mogą później zostać sprzedane, na przykład w darknecie. Przez jego użytkowników z kolei mogą zostać zmodyfikowane przy użyciu sztucznej inteligencji i wykorzystane w sposób, w jaki żaden rodzic nie chciałby by wykorzystywano zdjęcia i filmy z udziałem jego dziecka. Oprócz tego niektórzy rodzice za pośrednictwem elektronicznych niań nadzorują pracę... tych prawdziwych. Takie osoby mogą się wówczas czuć niekomfortowo mając świadomość, że ich słowa i ruchy są rejestrowane i zapisywane w chmurze, tym bardziej jeśli dowiedzą się, że tak było, a wcześniej nie wyraziły na to zgody. W takim przypadku w grę wchodzi już nie tylko naruszenie prywatności dziecka, którego rodzice nie zapytali o zdanie, ale i osób trzecich.
AI a prywatność
Nowe technologie usprawniające gromadzenie i analizę danych jednocześnie zwiększają ryzyko, że dane osobowe i inne informacje wrażliwe wpadną w niepowołane ręce. Gwarancja prywatności w tym przypadku oznacza, że użytkownik, który jest źródłem tych danych powinien mieć nad nimi pełną kontrolę, obejmującą możliwość decydowania o tym, jak są gromadzone, przechowywane i wykorzystywane. Wraz z postępem w dziedzinie sztucznej inteligencji postrzeganie prywatności danych zmienia się.
Jeszcze kilka lat temu większość ludzi myślała o tym głównie w kontekście zakupów online i wielu było obojętne, czy firmy wiedzą, jakie produkty wyszukują w Internecie i co zamawiają w sklepach internetowych. Co więcej, niektórzy uznają za użyteczne to, że na tej podstawie proponowane im są powiązane treści i wyświetlają się odpowiednie reklamy. Obecnie jednak na tych danych szkoli się modele sztucznej inteligencji, co może w dłuższej perspektywie mieć nieprzewidziane skutki. Do zagrożeń prywatności związanych z AI należą przede wszystkim: zbieranie danych wrażliwych, zbieranie danych bez zgody, ich wykorzystywanie bez pozwolenia, niekontrolowany nadzór i stronniczość, wycieki danych.
Jedną z przyczyn, dla których AI stwarza większe ryzyko dla prywatności danych niż wcześniejsze osiągnięcia technologiczne jest ogromna ilość informacji, jakie wykorzystuje szkoląc się. Są one już liczone w terabajtach, a nawet petabajtach tekstów, obrazów, dźwięków, filmów. Nieuchronnie część z tych danych jest poufna, na przykład informacje o stanie zdrowia, dane osobowe pozyskiwane z mediów społecznościowych, dane finansowe i dane biometryczne, wykorzystywane do trenowania m.in. algorytmów rozpoznawania twarzy. W związku z tym, że gromadzonych, przechowywanych i przesyłanych jest więcej poufnych danych, niż kiedykolwiek wcześniej, prawdopodobieństwo, że przynajmniej część z nich zostanie ujawniona albo wykorzystana w sposób naruszający prawo do prywatności jest coraz większe. Kontrowersje budzi szczególnie pozyskiwanie danych na potrzeby rozwoju sztucznej inteligencji bez wyraźnej zgody, a nawet bez wiedzy osób, które są ich źródłem.
Przepisy
Mnożyć można przykłady portali społecznościowych, które spotykały się z krytyką, gdy okazywało się, że ich użytkownicy nieświadomie wyrażali zgodę na gromadzenie swoich danych. Dlatego rosną oczekiwania większej przejrzystości w tym zakresie. Nawet jednak, gdy dane są zbierane za zgodą, istnieje ryzyko naruszenia prywatności, jeżeli są wykorzystywane do celów wykraczających poza te pierwotnie ujawnione, jak szkolenie modeli AI. O takich przypadkach jest ostatnio głośno. Na przykład w zbiorach danych do trenowania sztucznej inteligencji swoje dane odnajdują pacjenci i osoby poszukujące pracy, odkrywając, że ich dane medyczne, CV i zdjęcia wykorzystano w tym celu, chociaż nie wyrażali na to zgody.
Obawy dotyczące prywatności związane z powszechnym i niekontrolowanym nadzorem, czy to za pośrednictwem wszechobecnych kamer monitoringu na ulicach, czy plików cookie w komputerach osobistych, zgłaszano na długo przed upowszechnieniem się sztucznej inteligencji. Jednak AI ten niepokój jeszcze potęguje. Wynika to stąd, że modele sztucznej inteligencji stanowią narzędzie do ich analizy o ogromnych możliwościach, zaś w przypadku takich danych są one cenne nie tyle same w sobie, co dopiero wówczas, kiedy zostaną właściwie zinterpretowane. Problem pojawia się, jeżeli wnioski z tych analiz są używane w sposób stronniczy lub nieetyczny. Przykład to wykorzystywanie danych z kamer monitoringu do wyszukiwania ukrywających się osób, które są prześladowane ze względu na rasę albo poglądy polityczne. Niewłaściwie zabezpieczone modele AI są również podatne na wycieki danych.
W odpowiedzi na te wyzwania uchwalane są przepisy dotyczące prywatności w powiązaniu z AI. Takim jest GDPR (General Data Protection Regulation), czyli RODO. Kolejny przykład to EU Artificial Intelligence Act, która ustala kompleksowe ramy regulacyjne dla AI. Regulacja ta m.in. całkowicie zabrania niektórych zastosowań sztucznej inteligencji i wprowadza surowe wymogi dotyczące zarządzania ryzykiem i przejrzystości w odniesieniu do innych jej aplikacji.
W chmurze czy na brzegu?
Kiedy możliwości sztucznej inteligencji zaczęły w bezprecedensowym tempie rosnąć oczywistym stało się przeniesienie operacji wykonywanych przez modele AI do chmury. Korzystanie z zasobów zdalnych w zakresie mocy obliczeniowej i pamięci jest wygodne, równocześnie jednak zwiększa obciążenie sieci i liczyć się trzeba z opóźnieniami. Z przesyłaniem danych użytkowników na serwer zewnętrzny wiążą się również opisane zagrożenia dla ich prywatności.
Alternatywą jest uruchamianie modeli AI nie w chmurze, a w urządzeniach brzegowych. Trzeba się wówczas liczyć z pewnymi ograniczeniami. Na przykład algorytmy sztucznej inteligencji wymagają zoptymalizowania pod kątem możliwości lokalnie dostępnych zasobów, a ich aktualizowanie bez połączenia ze zdalnym serwerem jest trudne. Są to jednak problemy przy dzisiejszym poziomie rozwoju technologicznego możliwe do rozwiązania. Oprócz tego przeniesienie uruchamiania modeli AI na brzeg sieci niesie ze sobą wiele korzyści. Pozwala przede wszystkim na skrócenie czasu reakcji. To ważne m.in w elektronicznych nianiach, w których takie funkcje, jak detekcja niebezpiecznej pozycji, nieregularnego oddechu czy zakrycia twarzy dziecka kołdrą powinny działać bez opóźnień. W ich przypadku zaletą jest także to, że jeśli są uruchamiane na brzegu, a nie w chmurze, są dostępne nawet w razie przerwania połączenia ze zdalnym serwerem. Przetwarzania brzegowe pozwala ponadto na ograniczenie ilości danych, które są udostępniane w chmurze. To zmniejsza wymagania w zakresie przepustowości sieci i zapewnia prywatność. Ważne jest również to, że przeniesienie obciążenia na lokalne urządzenia radykalnie zmniejsza zużycie energii w centrach danych.
W związku z tym, zdaniem ekspertów, w przypadku elektroniki użytkowej, o ile to możliwe, a w szczególności w przypadku zastosowań, które opierają się na danych osobistych, związanych ze zdrowiem, krytycznych dla bezpieczeństwa użytkownika, urządzenia powinny domyślnie działać offline. Przenoszeniu procesu uruchamiania modeli sztucznej inteligencji z chmury na brzeg sieci sprzyja postęp w dziedzinie sprzętowej. Przykład to mikrokontrolery z wbudowanymi jednostkami przetwarzania neuronowego NPU (Neural Processing Units). Są to akcelerometry AI zoptymalizowane pod kątem obciążeń typowych dla operacji matematycznych, będących podstawą działania sieci neuronowych, przede wszystkim mnożenia macierzy.
Monika Jaworowska
