25 października, 2018 r.

UŁ komentuje: „Czy maszyny zagrożą naszej wolności?”

UŁ komentuje: „Czy maszyny zagrożą naszej wolności?”

fot. Pixabay

Z rozwojem technologii i sztucznej inteligencji wiążemy ogromne nadzieje, ale i obawy. Inspirowani filmami wyobrażamy sobie, że w przyszłości maszyny mogą przejąć kontrolę nad światem i doprowadzą do naszego zniszczenia. Bardziej realne zagrożenie to odebranie nam przez maszyny pracy. Temat komentuje dr Marcin Skulimowski z Wydziału Fizyki i Informatyki Stosowanej UŁ.



Maszyny uczą się człowieka...


Już dzisiaj maszyny (czy ogólniej systemy informatyczne) wykorzystywane są w sposób stanowiący zagrożenie dla miliardów ludzi. Nie zabierają nam co prawda pracy, ale… naszą uwagę. Internet jaki znamy działa w oparciu o ekonomię uwagi. Im więcej naszej uwagi poświęcamy odwiedzanym stronom internetowym albo aplikacjom zainstalowanym w naszych smartfonach, tym większe zyski mają firmy internetowe. Zasoby uwagi mamy jednak ograniczone. Jeżeli spędzamy czas w serwisie Youtube, to nie spędzamy go w serwisie Netflix czy Facebook. Stąd wyścig po naszą uwagę jest coraz bardziej bezwzględny.



Starając się wyprzedzić konkurencję, koncerny internetowe wykorzystują coraz bardziej wyrafinowane rozwiązania, w tym najnowsze osiągnięcia dziedziny nazywanej sztuczną inteligencją. Powszechne jest już wykorzystanie w tym celu uczenia maszynowego, w tym uczenia głębokiego (ang. deep learning).



- Maszyny analizują dostępne o nas informacje i naszą aktywność w Internecie, co lubimy, co komentujemy itd. W ten sposób uczą się nas i wychwytują słabości naszych umysłów - mówi dr Marcin Skulimowski.



Na tej podstawie tworzone są precyzyjnie spersonalizowane news feedy czy listy rekomendacji. Wszystko po to aby przykuć naszą uwagę (zwiększyć nasz "engagement"), co przekłada się wprost na większe zyski.


Wyścig o ludzki mózg


O tym jak cenna jest nasza uwaga może świadczyć zapowiedziane przez firmę Google wykorzystanie uczenia głębokiego m.in. do tworzenia rekomendacji dla użytkowników serwisu YouTube. W roku 2016 program AlphaGo (stworzony przez firmę DeepMind), oparty na uczeniu głębokim, pokonał w zaskakujący sposób mistrza świata w Go, Lee Sedola, mimo że według wcześniejszych prognoz, miało to być niemożliwe przez następne kilkaset lat...



Lee Sedol poległ w starciu z maszyną. A czy my będziemy w stanie przerwać oglądanie filmów lub przeglądanie mediów społecznościowych, odłożyć smartfon/tablet i zająć się ważnymi dla nas sprawami? Czy może już teraz mamy z tym problem?



W wyścigu o naszą uwagę firmy technologiczne wykorzystują także zaawansowane techniki perswazji, oparte na wiedzy o procesach zachodzących w naszym mózgu.



- Tristan Harris, założyciel Center for Humane Technology, nazywa ten wyścig wprost: "a race to the bottom of the brain stem". Maszyny w oparciu o zaawansowane algorytmy próbują zmieniać chemię mózgu (np. wpływać na wydzielanie dopaminy) i kształtować w nas nawyki częstego korzystania z aplikacji i serwisów internetowych - komentuje dr Skulimowski.



O tym, że metody te są skuteczne możemy się przekonać widząc wokół siebie dziesiątki osób wpatrzonych w kolorowe ekrany smartfonów.


Czy jesteśmy wolni?


Jakie mogą być tego konsekwencje? Jakie zagrożenia niesie takie masowe organizowanie uwagi miliardów ludzi? James Williams, James Williams z Oxford Internet Institute uważa, że konsekwencje mogą być bardzo poważne.



Te krótkofalowe, to brak zdolności do robienia rzeczy, które chcielibyśmy robić, bo po prostu nie mamy na nie czasu. Cały czas zerkamy na telefon, reagujemy na powiadomienia, klikamy, przewijamy, a kolejne filmy online odtwarzają się automatycznie i w efekcie nawet na chwilę nie odchodzimy od ekranu (badania pokazują, że sama obecność smartfona w pobliżu nas, znacząco zmniejsza nasze zdolności poznawcze!).



Konsekwencje długofalowe, to brak zdolności do głębszej refleksji i kierowania swoim życiem. Jesteśmy w stanie ciągłego głębokiego rozproszenia, zalewani wieloma strumieniami informacji, które możemy przetworzyć tylko powierzchownie. Reagujemy na nie instynktownie, bez namysłu, bez głębszego zastanowienia.



- Można zadać pytanie: czy działając w taki sposób jesteśmy nadal wolni? Czy potrafimy podejmować suwerenne, przemyślane decyzje? Mam co do tego poważne wątpliwości - mówi naukowiec z Wydziału Fizyki i Informatyki Stosowanej UŁ.



W erze przed Internetowej, w roku 1958, Aldous Huxley pisał: Jeżeli większość ludzi spędza znaczną część swojego życia nie tu i teraz, ani w przewidywalnej przyszłości, ale gdzie indziej, w pozbawionych znaczenia zaświatach sportu i oper mydlanych, mitologii i metafizycznych fantazji, społeczeństwu będzie trudno oprzeć się zakusom tych, którzy chcą nim manipulować, dążąc do przejęcia kontroli (Nowy wspaniały świat 30 lat później. Raport rozbieżności, Wydawnictwo MUZA S.A., 2018).



Warto zapamiętać te słowa, odłożyć smartfon/komputer i pomyśleć o wolności swojego umysłu, swojej uwagi. W kontekście Internetu ta wolność jest tak samo ważna jak wolność słowa. Globalna debata na ten temat dopiero się zaczyna...






Uniwersytet Łódzki to największa uczelnia badawcza w centralnej Polsce. Jej misją jest kształcenie wysokiej klasy naukowców i specjalistów w wielu dziedzinach humanistyki i nauk ścisłych. Współpracuje z biznesem, zarówno na poziomie kadrowym, zapewniając wykwalifikowanych pracowników, jak i naukowym, oferując swoje know-how przedsiębiorstwom z różnych gałęzi gospodarki. Uniwersytet Łódzki jest uczelnią otwartą na świat – wciąż rośnie liczba studiujących tutaj obcokrajowców, a polscy studenci poznają Europę, Azję, czy wyjeżdżają za Ocean. Uniwersytet jest częścią Łodzi, działa wspólnie z łodzianami i dla łodzian, angażując się w wiele projektów społeczno-kulturalnych.



Zobacz nasze projekty naukowe na https://www.facebook.com/groups/dobranauka/

Zapraszamy na stronę Biura Prasowego UŁ: https://biuroprasowe-uni-lodz.prowly.com/





Źródło: dr Marcin Skulimowski, WFiIS UŁ

Redakcja: Centrum Promocji UŁ


Poprzednia wiadomość Targi Pracy 2018
Następna wiadomość Przestępstwa w Internecie - wykład eksperta z USA