Ogranicz swoje przeklinanie Jak nadużywanie urządzenia AI może kosztować cię pracę

Czy kiedykolwiek przeklinałeś Siri, Alexę lub Google za niezrozumienie twoich słów? Nie jesteś sam. Możemy być winni lobbowania obelgi lub dwóch Spójrzmy prawdzie w oczy: Alexa Echo Amazon Echo jest głupia Spójrzmy prawdzie w oczy: Alexa Echo Amazon Echo jest głupia Nie ma wątpliwości, że asystenci sterowani głosem to przyszłość, ale czy Alexa jest rozwiązaniem? Może nie. W tym artykule zamierzam argumentować, że Alexa jest raczej głupia. my sami.

Ale wszyscy powinniśmy być ostrożni.

Chociaż na drugim końcu twojej zniewagi nie ma prawdziwej osoby, te przekleństwa również nie znikają w pustce. Nasze bezmyślne kolce są przenoszone przez sieć na odległe serwery. Sposób, w jaki traktujemy cyfrowych asystentów osobistych, może nauczyć ich najgorszego z ludzkości, a to może spowodować, że niektóre firmy uznają niektórych z nas za zbyt niepewnych, by ich zatrudnić.

Jak się okazuje, to, co możemy uznać za nieszkodliwe przekomarzanie się, wcale nie jest tak nieszkodliwe.

Uczą się od nas

Siri pojawiła się na scenie w 2011 roku, a rok później Google Now. Do 2014 roku Microsoft miał Cortanę. W tym samym roku Amazon wsadził AI o nazwie Alexa w plastikową rurkę, którą ludzie mogli zostawić na blatach. Od tego czasu Google i Apple zrobiły to samo. Giganci technologii szybko szukają sposobów na przekształcenie sztucznej inteligencji w produkty gotowe dla konsumentów Amazon Echo vs. Google Home vs. Apple HomePod Amazon Echo vs. Google Home vs. Apple HomePod W tym artykule dowiesz się o różnicach między Amazon Echo a Strona główna Google. Przyjrzymy się również, jakie funkcje może zawierać głośnik Apple. .

Ci cyfrowi asystenci osobiści mogą wydawać się dojrzali. Mogą nawet chwile, które nas zachwycą. Najśmieszniejsze pytania, które możesz zadać Alexa Najśmieszniejsze pytania, które możesz zadać Alexa Szukasz rzeczy, które możesz zadać Alexa? To są najśmieszniejsze pytania, które możesz zadać swojej Amazonce Alexa, oraz ściągawka ze 100 dodatkowymi. . Ale są nastolatkami. Są bardzo kompetentnymi maluchami i aktywnie uczą się na podstawie informacji, które im przekazujemy. Firmy, które je tworzą.

Zespół Siri pracuje nad Viv (obecnie własnością Samsunga), cyfrowym asystentem, który integruje się z usługami stron trzecich, takimi jak Weather Underground i Uber, aby zapewnić mówcom bardziej szczegółowe odpowiedzi. Demonstracje na scenie pokazują, że Viv odpowiada na pytania, które zadajemy innym ludziom, a nie na język, który dostosowujemy do maszyn. Jest to wynik uczenia się ze sposobu, w jaki ludzie używają języka.

Cyfrowi asystenci nie są tym, co większość z nas wyobraża sobie, kiedy wyobrażamy sobie sztuczną inteligencję. W przeciwieństwie do ELIZA, programu komputerowego z lat 60. XX wieku, który symuluje język naturalny (możesz spróbować porozmawiać z nim online), te AI nie robią wiele “myślący” dla siebie. Ta praca jest odciążana przez Internet.

Proces składa się z kilku kroków.

Pierwszym elementem jest rozpoznawanie mowy. Urządzenie przesyła bezpośrednie nagranie lub tłumaczy słowa na tekst, który może wysłać na zdalne serwery (Apple, Google, Amazon, ktokolwiek). Tam właśnie dzieje się magia. A raczej oprogramowanie przeszukuje bazę danych w celu znalezienia odpowiedniej odpowiedzi. Następnie przekazuje te informacje z powrotem do osobistego asystenta.

W skrócie: ktoś zadaje ci pytanie, zadajesz Siri, a następnie Siri pyta serwery Apple. Serwery udzielają Siri odpowiedzi, ona odpowiada tobie, a ty albo jesteś szczęśliwy, albo masz problem z radzeniem sobie z rozczarowaniem Siri, dlaczego mnie nie rozumiesz? [INFOGRAFICZNY] Siri, dlaczego mnie nie rozumiesz? [INFOGRAFICZNY] Jedną z najlepszych rzeczy w iPhonie 4S jest aplikacja do rozpoznawania mowy Siri, ale jak zauważyłem, nie lubi mnie i mojego szkockiego akcentu (wiele chwil… .

Te bazy danych zawierają nie tylko odpowiedzi. Niektóre przechowują nagrania głosowe, które pomagają komputerowi poruszać się po wielu niuansach naszych różnych dialektów. Te informacje nie tylko pomagają botom nas zrozumieć. Facebook wykorzystał tysiące negocjacji w języku naturalnym między dwojgiem ludzi, aby nauczyć chatboty Messenger, jak negocjować.

Czy jesteśmy dobrym przykładem??

Nie są to jedyne AI uczące się na podstawie naszego sposobu mówienia.

W zeszłym roku Microsoft opublikował bota czatu na Twitterze, Kiku i GroupMe w celu symulacji amerykańskiej nastolatki. W ciągu kilku godzin, “Tay” zgadzał się z Hitlerem i opowiadał się za wszelką obraźliwą retoryką. Microsoft wyłączył Tay'a offline, zanim minął dzień.

Podczas gdy Tay był porażką, nie spowolniło to rozprzestrzeniania się chatbotów. Można je znaleźć w sieciach społecznościowych, takich jak Facebook i Snapchat, a także w klientach do przesyłania wiadomości, takich jak HipChat i Slack. Niektórzy są gotowi do rozmowy. Inne łączą cię z usługami. Niektóre z tych botów są bezpieczniejsze, ponieważ one nie staraj się naśladować naturalną rozmowę, ponieważ w tej chwili maszyny nie muszą naśladować naszego sposobu mówienia.

Nie jesteśmy najlepszym przykładem dla botów, z których można się uczyć. Profesor uniwersytetu stanu Missouri, Sheryl Brahnam, przeprowadził badanie, w którym stwierdzono, że od 10 do 50 procent badanych interakcji wykazało, że ludzie są obelżywi lub w inny sposób podchodzą do asystentów komputerowych (spośród których asystenci cyfrowi są tylko jednym rodzajem). To niepokojąco duża liczba. Niektórzy rodzice czują się winni za wypowiedzenie przed swoimi dziećmi jednego złego słowa. To dalekie od pół ich interakcje są negatywne.

Te chatboty Facebook Messenger, o których wspominałem wcześniej? Nie tylko nauczyli się negocjować poprzez naukę języka naturalnego, ale także nauczyli się kłamać.

Twój przyszły pracodawca może obserwować

W przyszłości możemy osiągnąć punkt, w którym sposób komunikacji z botami może nas kosztować naszą pracę. Według Harvard Business Review zmiana ta może się zdarzyć, gdy zaczniemy postrzegać źle traktowanego bota jako zepsuty telefon komórkowy, a bardziej jak wyrzuconego kota. Brak szacunku dla bota firmowego może potencjalnie Cię zwolnić.

Zdjęcie: Chatbot Concept przez Shutterstock

Nie oznacza to, że pracownicy lub pracodawcy zaczną postrzegać boty jako urocze żywe istoty. Mogą być jednak wystarczająco wyczuleni, aby znęcać się nad nimi, aby wydawali się nieprofesjonalni i nieproduktywni. Jeśli jesteś menedżerem, nadużywanie sztucznej inteligencji może sprawić, że zadzwonisz przed HR z powodu złego przywództwa.

Czy to brzmi zbyt hipotetycznie? Zastanów się, co już wiemy. Wszystko, co piszemy lub mówimy do tych asystentów, jest przesyłane przez Internet, a tak naprawdę nie wiemy, co się potem stanie. Wiele z tych informacji jest rejestrowanych. Nawet jeśli te informacje nie zawsze są powiązane z Twoim kontem, nadal są przechowywane.

Google jest technicznie przejrzysty w tej kwestii, ale to nie czyni tego oczywistym. Tego rodzaju, jeśli gromadzenie danych rozszerza definicję posiadania czyjejś zgody przed ich zarejestrowaniem.

Te zebrane dane mogą wydawać się teraz nieszkodliwe, ale nic nie powstrzyma gigantów technologicznych przed ostatecznym zestawieniem każdego z nas szczegółowych portfeli, które przyszli pracodawcy, banki i inne podmioty mogłyby sprawdzić przed nawiązaniem z nami współpracy, podobnie jak raport kredytowy.

Organy ścigania zbytnio obserwują

W sprawie dotyczącej mężczyzny z Arkansas, oskarżonego o zabicie swojego przyjaciela (byłego funkcjonariusza policji), prokurator próbował wykorzystać nagrania z Amazon Echo jako dowód. Amazon odrzucił prośbę, ale to tylko częściowo pocieszające. Niepokojące jest to, że Amazon przede wszystkim przechowywał dane. Od tego czasu podejrzany udzielił dostępu do tych danych.

Wspomniałem o tych firmach mógłby sprawdź nasze dane przed kontaktem z nami. W przypadku organów ścigania mają już na uwadze te informacje. Czy NSA naprawdę musi samodzielnie zbierać dane? NSA przechowuje swoje dane w chmurze. Ale czy to bezpieczne? NSA przechowuje swoje dane w chmurze. Ale czy to bezpieczne? Po wycieku Edwarda Snowdena Agencja Bezpieczeństwa Narodowego (NSA) zwraca się do przechowywania danych w chmurze. Po zebraniu informacji o tobie, jakie będzie to bezpieczeństwo? czy może polegać na sektorze prywatnym w gromadzeniu tych informacji? Czy powinniśmy ufać komukolwiek, kto ma tyle danych o każdym z nas??

Dane zawierają nie tylko to, czego szukaliśmy, lub wydane przez nas polecenia, ale w jaki sposób zrobiliśmy to. Nie tylko ujawniamy wgląd w nasze interesy i działania - dajemy innym spojrzenie na to, jak działamy. To, co dzieje się między tobą a Alexą, nie pozostaje między tobą a Alexą.

Co mówimy ma znaczenie

Podczas gdy Tay musiał przekroczyć limit czasu, Microsoft odnalazł przytłaczający sukces z innym botem. Nazywa się Xiaoice. W Chinach i Japonii ten bot współpracował z ponad 40 milionami ludzi. To, że Xiaoice nie uległo samozniszczeniu, jest częściowo spowodowane różnicą kulturową. W Chinach niektóre rodzaje mowy nie są dozwolone online.

Teraz boty same zaczęły pilnować policji. Sieci społecznościowe zaczynają wykorzystywać boty do ograniczania mowy nienawiści. Być może nie rozmawiamy bezpośrednio z tymi botami, ale wciąż studiują naszą mowę, aby dowiedzieć się, co kwalifikuje się jako nadużycie.

Bez względu na to, jak podchodzisz do problemu, co mówimy i jak mówimy, ma znaczenie. Boty i firmy, które je tworzą, nasłuchują. Pewnego dnia nasi pracodawcy mogą do nich dołączyć. A jeśli komputery byli aby nas zastąpić w przyszłości, nie chcielibyśmy, żeby byli mili?

Jak reagujesz, gdy zawodzą asystenci cyfrowi? Czy traktujesz ich tak, jakby mieli uczucia? Czy dbasz o to, czy ktoś śledzi Twoje wypowiedzi? Co uważasz za odpowiedzialne rozwiązanie? Człowiek będzie uważał na twoje komentarze poniżej.

Źródło obrazu: deagreez1 / Depositphotos