Polak w pracach nad sztuczną inteligencją zawstydza Google'a i Microsoft

- Nie chodzi tylko o zwykły hejt, ale na przykład również o wykrywanie zachowań, które sugerują, że może dojść do próby samobójczej, a także o zapobieganie czynom pedofilskim. Do tego potrzebne jest bardzo dobre rozumienie języka, czyli budowa sztucznej inteligencji w innym paradygmacie niż tylko machine czy deep learning - tłumaczy Michał Wroczyński.

Google i Microsoft zostały w tyle

Dziś Samurai Labs ma już system, który osiąga lepsze wyniki w wykrywaniu internetowej przemocy niż narzędzia udostępniane przez Google’a i Microsoft.

Jak mówi Wroczyński, w ich przypadku co najmniej połowa alarmów dotyczących możliwości zaistnienia przemocy jest fałszywa, przez co w praktyce systemy te nie mogą działać autonomiczne. Na ich końcu zawsze musi się znajdować moderator, który jest człowiekiem i który ostatecznie decyduje, co uznać za przemoc, a co nie... A to spowalnia prace systemu i de facto sprawia, że reakcja jest niemal zawsze spóźniona.

- W przypadku systemu Samurai zaledwie 4-5 proc. to fałszywe alarmy. Przy takim współczynniku możemy już myśleć o jego autonomicznym działaniu oraz o realnym zapobieganiu powstawaniu i eskalacji przemocy w sieci. A naprawdę czegoś takiego potrzebujemy, bo praktycznie wszystkie dziedziny życia przenoszą się dziś do sieci, w której jednak nie ma żadnej dobrej policji czy agencji bezpieczeństwa, która chroniłaby nas przed przemocą - przekonuje Michał Wroczyński.

Czytaj również: W tę spółkę zainwestował Lewandowski, teraz dostali grant z UE

Co więcej, system jest tak skonstruowany, by mógł prowadzić dialog ze źle zachowującym się internautą albo graczem. Wroczyński przekonuje, że wiele takich nieodpowiednich zachowań można zneutralizować w zarodku, poprzez zwykłe zwrócenie uwagi, że tak się nie robi. Dzięki temu naprawdę blokowanie wpisów i użytkowników jest rozwiązaniem stosowanym w ostateczności.

Jak jednak Dawid, którym jest Samurai Labs, może nie tylko mierzyć się z takimi Goliatami, jak Google i Microsoft, ale wręcz zostawiać ich rozwiązania daleko w tyle?

Tajemnica sukcesu polega tu na skupieniu się na pracy w ramach poszczególnych języków, a nie próbie budowania narzędzia, które będzie uniwersalne dla wielu z nich.

- Duże firmy technologiczne próbują budować systemy, które od razu będą globalne, a więc uniwersalne dla wielu krajów i języków. My skupiamy się na każdym języku z osobna - wchodzimy bardzo głęboko, żeby osiągnąć wymagany poziom jego rozumienia. To oczywiście wydłuża prace... Nasze narzędzie działa już w języku angielskim, niedawno nauczyliśmy je również języka polskiego, ale przed nami jeszcze sporo pracy związanej z innymi językami. Nie próbujemy więc łapać wszystkich srok za ogon, ale dzięki temu uzyskujemy wyniki, które są dziś nieosiągalne nawet dla najpotężniejszych firm w branży - wyjaśnia Michał Wroczyński.

Systemy bigtechów na przykład za każdym razem raportują przemoc, gdy w jakiejś wypowiedzi wykryją wulgaryzm. Prezes Samurai Labs zwraca jednak uwagę, że oznacza to działanie na oślep, bo liczy się kontekst zdania, a nie pojedyncze słowo.

- Cała zabawa polega na tym, żeby system mógł precyzyjnie identyfikować granice pomiędzy tym, co jest przemocą, a co nie. Trzeba więc nauczyć system tego, w jaki sposób ludzie używają języka do jej wyrażania. To, że ktoś przeklnie, nie oznacza przecież od razu przemocy. Nie możemy robić tak, że kiedy ktoś powie “you are fucking awesome”, to automatycznie go blokujemy... Wchodzimy wtedy w cenzurę i to działającą bardzo na oślep - wyjaśnia. - Jesteśmy pionierami tzw. neuro-symbolicznej sztucznej inteligencji, która pozwala na naukę z danych i wnioskowanie z wykorzystaniem wiedzy . Praca, aby system prawidłowo zrozumiał, co się dzieje w zdaniu, zajęła nam 2,5 roku. Dzięki współpracy z ekspertami, lingwistami, psychologami i pedagogami uczymy Samurai’a, jak odróżnić przemoc od zwykłej rozmowy.

Rośnie zupełnie nowy rynek

Wroczyński postanowił  może nie udoskonalać rozwiązania, które były już obecne na rynku, ale stworzyć narzędzie oparte na zupełnie nowym paradygmacie. Wymagało to lat żmudnej pracy, ale po jej wykonaniu daje to ogromne perspektywy na budowę silnej pozycji rynkowej.

Szef Samurai Labs przekonuje, że jego firma ma narzędzie, którego nie oferuje obecnie nikt inny i ocenia, że to właśnie jej okno na budowę silnej pozycji, które po prostu trzeba wykorzystać.

- Nie musimy się przepychać między ciasno rozmieszczonymi innymi firmami. Wchodzimy na rynek, który dopiero się tworzy. Ale jestem przekonany, że będzie bardzo szybko rósł - ocenia.

Bo też, jego zdaniem, potrzeba ochrony przed cybernękaniem i przemocą w sieci staje się coraz bardziej paląca, zwłaszcza w przypadku dzieci. Wychowując się ze smartfonem w ręku, wiele z nich jest dziś niemal na stałe "podpiętych" do internetu, a rodzice właściwie nie mają sposobów, by to jakoś kontrolować.

Z niewłaściwymi zachowaniami użytkowników spotykają się nie tylko na portalach, w mediach społecznościowych, ale także w grach wideo. I nie chodzi tu tylko o to, że ktoś może dzieci poniżać, nękać - stale są narażone także na aktywność pedofilów.

- To jest jeden z najgorętszych obszarów, ponieważ nie jest rozwiązany. Nie ma jednej metody, standardu i jest wielu ciekawych graczy, którzy szukają swojej drogi. My różnimy się tym, że od początku mówimy: nie ma moderatora, jeśli chodzi o bezpieczeństwo. System musi działać, zanim wydarzy się krzywda - mówi Michał Wroczyński.

Nasz rozmówca zdaje sobie sprawę, że będzie coraz więcej graczy i oczywiście, że nigdy taka przewaga nie trwa wiecznie...

- Trzeba zamienić przewagę technologiczną na przewagę biznesową. To jest właśnie to, czym zajmujemy się teraz w Samuraiu - dodaje.

Algorytmy lubią język polski

Zastrzega jednak, by nie mówić, że jego firma wkracza właśnie w etap komercjalizacji wcześniejszych dokonań, bo sam broni się przed takim sztywnym podziałem na etapy rozwoju przedsiębiorstwa działającego w branży technologicznej.

- To częsty błąd, który sprawia, że wiele świetnych pomysłów upada... Jeśli coś wymyślisz, powinieneś zacząć po prostu to robić - tak jak Google, który jest przecież typowym deep techem, który wyszedł z uczelni. Nie chodzi o to, żeby coś najpierw wymyślić, a potem sprzedawać. Wymyślaj i myśl od razu o sprzedaży. Buduj całość przedsięwzięcia, a nie tylko jego część, licząc, że sprzedaż zrobi potem za ciebie ktoś inny - podkreśla.

I dopowiada, że celem jego firmy jest być  “embedded”, czyli wbudowanym. Wbudowanym w smartfon czy router dostawcy internetu tak, by na przykład gwarantować rodzicom ochronę dla ich dzieci.

- Obecnie zamierzamy mocno rozwijać się w Wielkiej Brytanii, która przyjęła właśnie regulacje wymuszające rozprawianie się z przemocą w sieci. Jednocześnie jednak patrzmy na pozostałe rynki i staramy się zająć miejsca, które pozwolą nam szybko rosnąć w roli dostawcy kompletnego narzędzia wykrywającego zagrożenia, zwłaszcza pedofilskie, w języku angielskim i polskim -wskazuje  Michał Wroczyński.

Bo też na razie Samurai działa tylko w tych dwóch językach. Niemniej fakt, że prace rozpoczęły się od języka angielskiego, daje mu na starcie duży zasięg. Z czasem, jako się rzekło, dołączono do tego budowę rozwiązania dla języka polskiego, który dla systemu okazał się  prostszy, niżby się to mogło z pozoru wydawać.

- Mało osób wie o tym, że język polski jest trudny do nauki dla ludzi, ale przez to jest dużo prostszy dla komputerów. Bo - na przykład - w naszych końcówkach, które sprawiają taką trudność osobom uczącym się języka polskiego, kryje się ogromne bogactwo informacji, które są dla komputera “na wyciągnięcie ręki”. W języku angielskim czegoś takiego nie ma - i przez to jest mniej precyzyjny, a to przeszkadza algorytmom w jego prawidłowym interpretowaniu - przekonuje szef Samurai Labs.

Komercjalizacja internetu nas niszczy

Skąd jednak, jego zdaniem, w ogóle zachodzi potrzeba konstruowania takich systemów, jak Samurai? Dlaczego w globalnej sieci jesteśmy ciągle wystawieni na wszechobecną agresję?

- Globalna sieć jest trochę takim nowym, tanim i powszechnym narkotykiem. Gdy nam coś w życiu nie wychodzi, gdy czujemy się źle, to możemy tam wejść, dać upust emocjom i zyskać poczucie wyższości to taki zastrzyk dopaminy, który na chwilę poprawia nam samopoczucie - mówi Wroczyński.

Jego zdaniem agresja jest też przejawem rozłączenia od innych ludzi, a więc samotności. W poczuciu wyobcowania mamy mniej hamulców, niż gdybyśmy czuli, że działamy w grupie. Bo grupa zwykle dokonuje samoregulacji skrajnych zachowań.

Hejt i przemoc napędza jednak w dużej mierze obecna filozofia działania internetu, zgodnie z którą nie liczą się żadne inne wartości - poza tym, by uzyskać kliknięcie.

- Kiedyś było to narzędzie z założenia bezpłatne, nie licząc samej usługi telekomunikacyjnej, które miało służyć do globalnej wymiany informacji i - dzięki temu - tworzeniu lepszych rozwiązań. Z czasem powstał jednak model biznesowy, w którym nie optymalizuje się działań, biorąc pod uwagę wiedzę czy wartości, ale tylko to, ile osób w coś kliknie... Porzucamy wszelkie normy, które zwykle występują między ludźmi, dla tego jednego celu: kliknięcia właśnie. Istnieje takie powiedzenie, że 99 proc. mojej generacji zajmuje się tym, by ktoś w coś kliknął - i coś w tym jest. I, niestety, algorytmy sprzyjają tak naprawdę radykalizacji - ocenia Wroczyński.

Jak dodaje, powszechne stało się poszukiwanie zagrożeń w poszczególnych technologiach, jak chociażby sztuczna inteligencja, które mają nam w przyszłości odebrać wolność. Tymczasem nie dostrzegamy, że już teraz największym zagrożeniem jest model działania internetu, który wynika z jego komercjalizacji.

- Dyskusja publiczna jest skupiona na czymś innym. Pojawia się w niej temat, czy sztuczna inteligencja, jak Skynet z filmu Terminator, zacznie kiedyś rządzić ludźmi. Ogniskując się na tym, nie zwracamy uwagi na mechanizmy, które już przemożnie wpływają na nasze życie i często nam szkodzą. Na to, że obecny model globalnej sieci jest zdegenerowany, że potrzebujemy zarówno nowych regulacji, gruntownej edukacji, jak i zmiany osobistego podejścia do tego, co oferuje nam sieć. By nie być tylko narkomanami, którzy się uzależniają - w zamian za kliknięcia - podsumowuje prezes Samurai Labs.