Google tnie pornograficzne wyniki wyszukiwania. Efekt działania algorytmu BERT

Pod koniec 2019 r. Google poinformował o wprowadzeniu aktualizacji swojej wyszukiwarki o nazwie BERT. Koncern zapowiedział wówczas, że jest to jedna z największych i najważniejszych zmian w działaniu platformy.

Google wyjaśnił, że dzięki technologii sztucznej inteligencji i uczeniu maszynowemu BERT w inny sposób niż dotąd odczytuje hasła wpisywane przez użytkowników w wyszukiwarkę. Zamiast koncentrować się na kolejności słów znajdujących się w konkretnej frazie, BERT ma dogłębnie badać każde słowo oraz jego związki z pozostałymi wyrażeniami tworzącymi hasło.

Czytaj także: Google ze wsparciem dla uchodźców z Ukrainy. Dodatkowe informacje w wyszukiwarce i Mapach

Na tej podstawie mechanizm ma dostarczać użytkownikowi najbardziej precyzyjne wyniki wyszukiwania odczytując niejako intencje internauty zadającego wyszukiwarce pytanie.

Pornografia o 30 proc. w dół

Teraz Tulsee Doshi, szefowa produktu w zespole odpowiedzialnym za AI w Google poinformowała w rozmowie z Reutersem, że firma ograniczyła o 30 proc. w ciągu ostatniego roku wyniki w wyszukiwaniach dla takich haseł, jak np. „latina teenager”, które wcześniej prowadziły najczęściej do materiałów pornograficznych. Podobnie ma być w wypadku innych fraz związanych z pochodzeniem etnicznym, preferencjami seksualnymi i płcią.

Doshi przyznała, że ograniczenie szkodliwych treści w wynikach wyszukiwania jest bezpośrednim następstwem funkcjonowania wspomnianego wcześniej algorytmu BERT, który pozwala lepiej interpretować, czy ktoś szuka wyników np. rasistowskich, czy bardziej ogólnych.

Oprócz „latynoskiej nastolatki”, także inne zapytania wyświetlają teraz odmienne wyniki niż wcześniej, wśród nich są takie frazy jak „la chef lesbienne”, „college dorm room”, „latina yoga instructor” czy „lesbienne bus”.

 - To wszystko był zestaw przeseksualizowanych wyników - zaznaczyła Doshi, dodając, że te kontrowersyjne rezultaty wyszukiwania były szokujące dla wielu użytkowników.

MUM na horyzoncie

Google zapowiedział także, że w najbliższym czasie wykorzysta technologię Multitask Unified Model zwaną MUM, aby zacząć lepiej wykrywać, kiedy należy wyświetlać zasoby pomocy związane z samobójstwami, przemocą domową, napaściami seksualnymi i nadużywaniem szkodliwych substancji.

Testy MUM rozpoczęły się w połowie 2021 r. Podobnie jak obecny system rozumienia języka BERT, MUM jest zbudowany na architekturze Transformer.

Czytaj także: Amerykańscy śledczy prowadzą dochodzenie w sprawie Map Google. Chodzi o praktyki monopolistyczne

MUM ma być jednak tysiąc razy potężniejszy niż BERT i może wykonywać wiele zadań jednocześnie, aby odblokowywać informacje na nowe sposoby. Według Google MUM nie tylko rozumie język, ale także go generuje. Jest przeszkolony w 75 różnych językach i wielu różnych zadaniach naraz, dzięki czemu lepiej rozumie informacje i wiedzę o świecie niż poprzednie modele. MUM jest także multimodalny, czyli przetwarza informacje zawarte zarówno w tekście, jak i obrazach, a w przyszłości może rozszerzyć swoją funkcjonalność na jeszcze więcej nośników informacji, takich jak wideo i audio.