Powód, dla którego ten (i inne) artykuł ujrzał światło dzienne, jest prosty: być może sztuczna inteligencja to nie tylko ważny temat do dyskusji, ale najważniejszy w kontekście przyszłości. Każdy, kto choć trochę zagłębi się w istotę potencjału sztucznej inteligencji, wie, że tego tematu nie można zignorować. Niektórzy – a wśród nich Elon Musk, Stephen Hawking, Bill Gates, a nie najgłupsi ludzie na naszej planecie – uważają, że sztuczna inteligencja stanowi egzystencjalne zagrożenie dla ludzkości, porównywalne w skali do całkowitego wyginięcia nas jako gatunku. Usiądź wygodnie i zaznacz „i” dla siebie.
„Jesteśmy u progu zmian porównywalnych z powstaniem ludzkiego życia na Ziemi” (Vernor Vinge).
Co to znaczy być u progu takiej zmiany?
Wydaje się, że to nic specjalnego. Musisz jednak pamiętać, że bycie w takim miejscu na wykresie oznacza, że nie wiesz, co jest po Twojej prawej stronie. Powinieneś poczuć coś takiego:
Uczucia są całkiem normalne, lot idzie dobrze.
Przyszłość nadchodzi
Wyobraź sobie, że wehikuł czasu przeniósł cię do 1750 roku - czasu, kiedy świat doświadczał ciągłych przerw w dostawach prądu, komunikacja między miastami oznaczała wystrzały armatnie, a cały transport odbywał się na sianie. Powiedzmy, że dotrzesz tam, zabierzesz kogoś i sprowadzisz do 2015 roku, pokażesz, jak tu jest. Nie jesteśmy w stanie zrozumieć, jak by to było, gdyby zobaczył te wszystkie lśniące kapsuły lecące wzdłuż dróg; rozmawiać z ludźmi po drugiej stronie oceanu; spójrz na gry sportowe oddalone o tysiąc kilometrów; usłyszeć występ muzyczny nagrany 50 lat temu; bawić się magicznym prostokątem, który może zrobić zdjęcie lub uchwycić moment na żywo; zbudować mapę z paranormalną niebieską kropką wskazującą jej lokalizację; patrzeć na czyjąś twarz i komunikować się z nim wiele kilometrów dalej i tak dalej. Wszystko to jest niewytłumaczalną magią dla prawie trzystuletnich ludzi. Nie wspominając o Internecie, Międzynarodowej Stacji Kosmicznej, Wielkim Zderzaczu Hadronów, broni jądrowej i ogólnej teorii względności.
Takie przeżycie nie będzie dla niego zaskoczeniem ani szokiem – te słowa nie oddają całej istoty psychicznego załamania. Nasz podróżnik może całkowicie umrzeć.
Ale jest interesujący punkt. Jeśli wróci do 1750 roku i będzie zazdrosny o to, że chcieliśmy zobaczyć jego reakcję na rok 2015, może zabrać ze sobą wehikuł czasu i spróbować zrobić to samo z, powiedzmy, 1500. Poleci tam, znajdzie osobę, odbierze ją w 1750 roku i wszystko pokaże. Facet z 1500 roku będzie zszokowany ponad miarę - ale prawdopodobnie nie umrze. Choć oczywiście będzie zdziwiony, różnica między 1500 a 1750 jest znacznie mniejsza niż między 1750 a 2015 rokiem. Osoba z 1500 roku będzie zaskoczona w niektórych momentach fizyką, będzie zdumiona tym, czym Europa stała się pod twardą piętą imperializmu, narysuje mu w głowie nową mapę świata… Ale życie codzienne w 1750 r. - transport, komunikacja itp. - raczej nie zaskoczy go na śmierć.
Nie, żeby facet z 1750 miał taką samą zabawę jak my, musi posunąć się znacznie dalej – może rok taki jak ten w 12.000 p.n.e. Pne jeszcze przed pierwszą rewolucją rolniczą zrodziły się pierwsze miasta i koncepcja cywilizacji. Gdyby ktoś ze świata łowców-zbieraczy, z czasów, gdy ludzie byli jeszcze bardziej innym gatunkiem zwierząt, widział ogromne ludzkie imperia z 1750 roku z ich wysokimi kościołami, statkami przemierzającymi oceany, ich koncepcją bycia „wewnątrz” budynku, wszystkim ta wiedza - najprawdopodobniej by umarł.
A potem, po śmierci, zazdrościłby i chciał zrobić to samo. Wróciłby 12 000 lat temu, w 24 000 p.n.e. e., zabrałby osobę i sprowadził ją w odpowiednim czasie. A nowy podróżnik powiedziałby mu: „No dobrze, dziękuję”. Bo w tym przypadku osoba z 12.000 p.n.e. NS. trzeba by cofnąć się o 100 000 lat i po raz pierwszy pokazać miejscowym aborygenom ogień i język.
Jeśli musimy przenieść kogoś w przyszłość, aby był zaskoczony na śmierć, postęp musi przebyć pewną odległość. Należy osiągnąć postęp w punkcie śmierci (TPP). Oznacza to, że jeśli w czasach łowców-zbieraczy TSP zajęło 100 000 lat, kolejny przystanek miał miejsce już w 12 000 pne. NS. Po tym postęp był już szybszy i radykalnie zmienił świat do 1750 roku (w przybliżeniu). Potem zajęło to kilkaset lat i oto jesteśmy.
Ten obraz - gdzie postęp ludzkości postępuje szybciej w miarę upływu czasu - futurysta Ray Kurzweil nazywa prawem przyspieszających powrotów w historii ludzkości. Dzieje się tak, ponieważ społeczeństwa bardziej rozwinięte mają zdolność do szybszego postępu niż społeczeństwa mniej rozwinięte. Ludzie z XIX wieku wiedzieli więcej niż ludzie z XV wieku, nic więc dziwnego, że postęp w XIX wieku był szybszy niż w XV i tak dalej.
Na mniejszą skalę to również działa. Back to the Future został wydany w 1985 roku, a przeszłość była w 1955 roku. W filmie, kiedy Michael J. Fox powrócił w 1955 roku, zaskoczyła go nowość telewizji, cena napojów gazowanych, brak miłości do brzmienia gitar i wariacje w slangu. To był oczywiście inny świat, ale gdyby film został nakręcony dzisiaj, a przeszłość była w 1985 roku, różnica byłaby znacznie bardziej globalna. Marty McFly, cofnięty w czasie z czasów komputerów osobistych, Internetu, telefonów komórkowych, byłby o wiele bardziej nieistotny niż Marty, który przeszedł do 1955 z 1985 roku.
Wszystko to za sprawą prawa przyspieszających zwrotów. Średnie tempo rozwoju postępu w latach 1985-2015 było wyższe niż tempo z lat 1955-1985 – bo w pierwszym przypadku świat był bardziej rozwinięty, był nasycony dorobkiem ostatnich 30 lat.
Im więcej osiągnięć, tym szybciej następują zmiany. Ale czy nie powinno to pozostawić nam pewnych wskazówek na przyszłość?
Kurzweil sugeruje, że postęp całego XX wieku mógł być dokonany w ciągu zaledwie 20 lat na poziomie rozwoju z 2000 r. – czyli w 2000 r. tempo postępu było pięciokrotnie szybsze niż przeciętne tempo postępu w XX wieku. Uważa też, że postęp całego XX wieku był tożsamy z postępem okresu od 2000 do 2014 roku, a postęp kolejnego XX wieku będzie tożsamy z okresem do 2021 roku – czyli za zaledwie siedem lat. Po kilkudziesięciu latach cały postęp XX wieku będzie miał miejsce kilka razy w roku, a potem już za miesiąc. Ostatecznie prawo przyspieszających zwrotów doprowadzi nas do punktu, w którym postęp w całym XXI wieku będzie 1000 razy większy niż postęp w XX wieku.
Jeśli Kurzweil i jego zwolennicy mają rację, rok 2030 zaskoczy nas w taki sam sposób, w jaki zaskoczyłby nas gość z 1750 roku – czyli następny TSP zajmie tylko kilkadziesiąt lat – a świat 2050 będzie zupełnie inny od współczesnego, którego prawie nie dowiadujemy się. I to nie jest fikcja. To opinia wielu naukowców, którzy są mądrzejsi i bardziej wykształceni niż ty i ja. A jeśli spojrzysz na historię, zrozumiesz, że ta przepowiednia wynika z czystej logiki.
Dlaczego więc, kiedy stajemy w obliczu stwierdzeń typu „świat za 35 lat zmieni się nie do poznania”, sceptycznie wzruszamy ramionami? Istnieją trzy powody naszego sceptycyzmu co do przewidywań na przyszłość:
1. Jeśli chodzi o historię, myślimy po linii prostej. Próbując zobrazować postęp w ciągu następnych 30 lat, patrzymy na postęp ostatnich 30 jako wskaźnik tego, jak wiele może się wydarzyć. Kiedy myślimy o tym, jak zmieni się nasz świat w XXI wieku, bierzemy postęp XX wieku i dodajemy go do roku 2000. Ten sam błąd popełnia nasz gość z 1750 roku, kiedy dostaje kogoś z 1500 roku i próbuje go zaskoczyć. Intuicyjnie myślimy w sposób liniowy, kiedy powinniśmy być wykładniczy. Zasadniczo futurysta powinien starać się przewidzieć postęp na następne 30 lat, nie patrząc na poprzednie 30, ale osądzając obecny poziom postępu. Wtedy prognoza będzie dokładniejsza, ale wciąż przy bramie. Aby prawidłowo myśleć o przyszłości, musisz widzieć rzeczy poruszające się w znacznie szybszym tempie niż teraz.
[/środek]
2. Trajektoria najnowszej historii jest często zniekształcona. Po pierwsze, nawet stroma krzywa wykładnicza wydaje się liniowa, gdy widzisz jej małe fragmenty. Po drugie, wzrost wykładniczy nie zawsze jest płynny i jednolity. Kurzweil uważa, że postęp porusza się po serpentynach.
Taka krzywa przechodzi przez trzy fazy: 1) powolny wzrost (wczesna faza wzrostu wykładniczego); 2) szybki wzrost (wybuchowa, późna faza wzrostu wykładniczego); 3) stabilizacja w postaci określonego paradygmatu.
Jeśli spojrzysz na ostatnią historię, część krzywej S, w której się obecnie znajdujesz, może ukryć prędkość postępu przed twoją percepcją. Część czasu między 1995 a 2007 rokiem poświęcono na gwałtowny rozwój Internetu, przedstawienie opinii publicznej firmy Microsoft, Google i Facebook, narodziny sieci społecznościowych oraz rozwój telefonów komórkowych, a następnie smartfonów. To była druga faza naszej krzywej. Ale okres od 2008 do 2015 roku był mniej destrukcyjny, przynajmniej na froncie technologicznym. Ci, którzy myślą o przyszłości dzisiaj, mogą zająć ostatnie kilka lat, aby ocenić ogólne tempo postępu, ale nie widzą szerszego obrazu. W rzeczywistości, nowa i potężna Faza 2 może się teraz szykować.
3. Nasze własne doświadczenie sprawia, że jesteśmy zrzędliwymi, starszymi ludźmi, jeśli chodzi o przyszłość. Opieramy nasze wyobrażenia o świecie na własnych doświadczeniach, które jako oczywistość wyznaczyły nam tempo rozwoju w niedalekiej przeszłości. Podobnie nasza wyobraźnia jest ograniczona, ponieważ wykorzystuje nasze doświadczenie do przewidywania - ale najczęściej po prostu nie mamy narzędzi, które pozwalają nam dokładnie przewidzieć przyszłość. Kiedy słyszymy przepowiednie na przyszłość, które są sprzeczne z naszymi codziennymi wyobrażeniami o tym, jak rzeczy działają, instynktownie uważamy je za naiwne. Gdybym ci powiedział, że będziesz żył 150 lub 250 lat, a może wcale nie umrzesz, instynktownie pomyślisz, że „to jest głupie, wiem z historii, że w tym czasie wszyscy zginęli”. Tak jest: nikt nie doczekał takich lat. Ale ani jeden samolot nie latał przed wynalezieniem samolotów.
Tak więc, chociaż sceptycyzm wydaje ci się rozsądny, często jest zły. Powinniśmy przyjąć, że jeśli uzbroimy się w czystą logikę i czekamy na zwykłe historyczne zygzaki, musimy przyznać, że bardzo, bardzo, bardzo musi się zmienić w nadchodzących dziesięcioleciach; znacznie więcej niż intuicyjnie. Logika podpowiada również, że jeśli najbardziej zaawansowany gatunek na planecie będzie nadal robił gigantyczne skoki naprzód, coraz szybciej, to w pewnym momencie skok będzie tak poważny, że radykalnie zmieni życie, jakie znamy. Coś podobnego wydarzyło się w procesie ewolucji, kiedy człowiek stał się tak inteligentny, że całkowicie zmienił życie każdego innego gatunku na planecie Ziemia. A jeśli poświęcisz trochę czasu na przeczytanie, co dzieje się teraz w nauce i technologii, możesz zacząć dostrzegać wskazówki dotyczące tego, jak będzie wyglądał następny wielki skok.
Droga do superinteligencji: czym jest AI (sztuczna inteligencja)?
Jak wielu ludzi na tej planecie, jesteś przyzwyczajony do myślenia o sztucznej inteligencji jako o głupim pomyśle science fiction. Ale ostatnio wiele poważnych osób wyraziło zaniepokojenie tym głupim pomysłem. Co jest nie tak?
Istnieją trzy powody, które prowadzą do zamieszania wokół terminu AI:
AI kojarzy nam się z filmami. "Gwiezdne Wojny". „Terminator”. „Odyseja kosmiczna 2001”. Ale podobnie jak roboty, sztuczna inteligencja w tych filmach jest fikcją. W ten sposób hollywoodzkie taśmy osłabiają poziom naszej percepcji, sztuczna inteligencja staje się znajoma, znajoma i oczywiście zła.
To szerokie pole zastosowania. Zaczyna się od kalkulatora w telefonie i rozwijania autonomicznych samochodów w coś odległej przyszłości, co zrewolucjonizuje świat. AI oznacza wszystkie te rzeczy i jest mylące.
Z AI korzystamy na co dzień, ale często nawet nie zdajemy sobie z tego sprawy. Jak powiedział John McCarthy, wynalazca terminu „sztuczna inteligencja” w 1956 roku, „kiedy to zadziała, nikt już nie nazywa tego sztuczną inteligencją”. Sztuczna inteligencja stała się bardziej mityczną przepowiednią dotyczącą przyszłości niż czymś realnym. Jednocześnie ta nazwa ma również posmak czegoś z przeszłości, co nigdy nie stało się rzeczywistością. Ray Kurzweil mówi, że słyszy, jak ludzie kojarzą sztuczną inteligencję z faktami z lat 80., co można porównać do „twierdzenia, że internet umarł wraz z dotcomami na początku XXI wieku”.
Powiedzmy sobie jasno. Po pierwsze, przestań myśleć o robotach. Robot będący pojemnikiem na sztuczną inteligencję czasami naśladuje ludzką postać, czasami nie, ale sama sztuczna inteligencja to komputer wewnątrz robota. AI to mózg, a robot to ciało, jeśli w ogóle ma ciało. Na przykład oprogramowanie i dane Siri to sztuczna inteligencja, kobiecy głos to uosobienie tej sztucznej inteligencji, a w tym systemie nie ma robotów.
Po drugie, prawdopodobnie słyszałeś termin „osobliwość” lub „osobliwość technologiczna”. Termin ten jest używany w matematyce do opisania niezwykłej sytuacji, w której zwykłe zasady już nie działają. W fizyce jest używany do opisania nieskończenie małego i gęstego punktu czarnej dziury lub pierwotnego punktu Wielkiego Wybuchu. I znowu, prawa fizyki w nim nie działają. W 1993 roku Vernor Vinge napisał słynny esej, w którym odniósł to określenie do momentu w przyszłości, kiedy inteligencja naszych technologii przewyższa naszą własną - w którym to momencie życie, jakie znamy, zmieni się na zawsze, a zwykłe zasady jego istnienia przestanie działać…. Ray Kurzweil doprecyzował ten termin, wskazując, że osobliwość zostanie osiągnięta, gdy prawo przyspieszającego odrzutu osiągnie punkt ekstremalny, gdy postęp technologiczny postępuje tak szybko, że przestaniemy zauważać jego osiągnięcia, niemal nieskończenie szybko. Wtedy będziemy żyć w zupełnie nowym świecie. Jednak wielu ekspertów przestało używać tego terminu, więc nie będziemy się do niego często odwoływać.
Wreszcie, chociaż istnieje wiele rodzajów lub form sztucznej inteligencji, które wywodzą się z szerokiej koncepcji sztucznej inteligencji, główne kategorie sztucznej inteligencji zależą od kalibru. Istnieją trzy główne kategorie:
Skupiona (słaba) sztuczna inteligencja (AI). UII specjalizuje się w jednym obszarze. Wśród tych AI są tacy, którzy mogą pokonać mistrza świata w szachach, ale to wszystko. Jest taki, który może zaoferować najlepszy sposób przechowywania danych na dysku twardym i to wszystko.
Ogólna (silna) sztuczna inteligencja. Czasami określany również jako sztuczna inteligencja na poziomie człowieka. AGI odnosi się do komputera, który jest tak inteligentny jak człowiek - maszyny zdolnej do wykonywania wszelkich czynności intelektualnych właściwych człowiekowi. Tworzenie AGI jest znacznie trudniejsze niż AGI i jeszcze do tego nie dotarliśmy. Profesor Linda Gottfredson opisuje inteligencję jako „w ogólnym sensie potencjał psychiczny, który obejmuje między innymi zdolność rozumowania, planowania, rozwiązywania problemów, myślenia abstrakcyjnego, rozumienia złożonych idei, szybkiego uczenia się i uczenia się na podstawie doświadczenia”. AGI powinno być w stanie zrobić to wszystko tak łatwo, jak Ty.
Sztuczna superinteligencja (ISI). Filozof z Oksfordu i teoretyk sztucznej inteligencji, Nick Bostrom, definiuje superinteligencję jako „inteligencję, która jest znacznie mądrzejsza niż najlepsze ludzkie umysły w praktycznie każdej dziedzinie, włączając w to kreatywność naukową, ogólną mądrość i umiejętności społeczne”. Sztuczna superinteligencja obejmuje zarówno komputer, który jest nieco mądrzejszy od człowieka, jak i biliony razy mądrzejszy w dowolnym kierunku. ISI jest powodem rosnącego zainteresowania AI, a także tego, że w takich dyskusjach często pojawiają się słowa „wymieranie” i „nieśmiertelność”.
W dzisiejszych czasach ludzie podbili już pierwszy etap kalibru AI - AI - na wiele sposobów. Rewolucja AI to podróż od AGI przez AGI do ISI. Tą drogą możemy nie przetrwać, ale na pewno wszystko zmieni.
Przyjrzyjmy się bliżej, jak czołowi myśliciele w tej dziedzinie widzą tę ścieżkę i dlaczego ta rewolucja może nastąpić szybciej, niż mogłoby się wydawać.
Gdzie jesteśmy w tym strumieniu?
Skupiona sztuczna inteligencja to inteligencja maszyny, która jest równa lub większa niż inteligencja człowieka lub wydajność w wykonywaniu określonego zadania. Kilka przykładów:
* Samochody są napakowane systemami ICD, od komputerów, które określają, kiedy powinien zadziałać układ przeciwblokujący, po komputer, który określa parametry układu wtrysku paliwa. Autonomiczne samochody Google, które są obecnie testowane, będą zawierać solidne systemy sztucznej inteligencji, które wyczuwają otaczający je świat i reagują na niego.
* Twój telefon to mała fabryka ICD. Gdy korzystasz z aplikacji Mapy, otrzymujesz rekomendacje dotyczące pobierania aplikacji lub muzyki, sprawdzasz pogodę na jutro, rozmawiasz z Siri lub robisz cokolwiek innego - korzystasz ze sztucznej inteligencji.
* Twój filtr antyspamowy poczty e-mail to klasyczny typ sztucznej inteligencji. Zaczyna się od ustalenia, jak oddzielić spam od użytecznych wiadomości e-mail, a następnie uczy się, jak obsługuje wiadomości e-mail i preferencje.
* I to niezręczne uczucie, gdy wczoraj szukałeś w wyszukiwarce śrubokręta lub nowej plazmy, a dziś widzisz oferty z pomocnych sklepów na innych stronach? Lub gdy sieć społecznościowa zaleci Ci dodanie interesujących osób jako znajomych? Wszystko to są systemy AI, które współpracują ze sobą, określając Twoje preferencje, pobierając dane o Tobie z Internetu, zbliżając się do Ciebie. Analizują zachowania milionów ludzi i wyciągają wnioski na podstawie tych analiz, aby sprzedawać usługi dużych firm lub ulepszać ich usługi.
* Tłumacz Google, kolejny klasyczny system AI, jest imponująco dobry w niektórych rzeczach. Podobnie jak rozpoznawanie głosu. Kiedy Twój samolot ląduje, terminal dla niego nie jest identyfikowany przez osobę. Cena biletu jest taka sama. Najlepsze na świecie warcaby, szachy, tryktrak, buldożer i inne gry są dziś reprezentowane przez wąsko skoncentrowaną sztuczną inteligencję.
* Wyszukiwarka Google to jedna gigantyczna sztuczna inteligencja, która wykorzystuje niewiarygodnie sprytne metody do pozycjonowania stron i określania SERP.
I to tylko w świecie konsumentów. Zaawansowane systemy IMD są szeroko stosowane w przemyśle wojskowym, produkcyjnym i finansowym; w systemach medycznych (pomyśl o Watsonie IBM) i tak dalej.
Systemy IMD w obecnej formie nie stanowią zagrożenia. W najgorszym przypadku wadliwa lub źle zaprogramowana sztuczna inteligencja może prowadzić do lokalnej katastrofy, przerw w dostawie prądu, załamania rynków finansowych i tym podobnych. Ale chociaż AGI nie jest upoważnione do tworzenia egzystencjalnego zagrożenia, musimy spojrzeć na sprawy szerzej – czeka nas niszczycielski huragan, którego zwiastunem jest AII. Każda nowa innowacja w AGI dodaje jeden blok na ścieżce prowadzącej do AGI i ISI. Lub, jak dobrze zauważył Aaron Saenz, AI naszego świata są jak „aminokwasy pierwotnej zupy młodej Ziemi” – ale pozbawione życia składniki życia, które pewnego dnia się obudzą.
Droga od AGI do AGI: dlaczego jest tak trudna?
Nic nie ujawnia bardziej złożoności ludzkiej inteligencji niż próba stworzenia komputera, który byłby równie inteligentny. Budowanie drapaczy chmur, latanie w kosmos, sekrety Wielkiego Wybuchu - wszystko to jest nonsensem w porównaniu do powtarzania własnego mózgu lub przynajmniej zrozumienia go. Mózg człowieka jest obecnie najbardziej złożonym obiektem w znanym wszechświecie.
Być może nawet nie podejrzewasz, jaka jest trudność w tworzeniu AGI (komputera, który będzie inteligentny jako osoba w ogóle, a nie tylko w jednej dziedzinie). Zbudowanie komputera, który potrafi pomnożyć dwie dziesięciocyfrowe liczby w ułamku sekundy, jest tak proste, jak łuskanie gruszek. Stworzenie kogoś, kto potrafi spojrzeć na psa i kota i powiedzieć, gdzie jest pies i gdzie jest kot, jest niezwykle trudne. Stworzyć sztuczną inteligencję, która może pokonać arcymistrza? Zrobiony. Teraz spróbuj nakłonić go do przeczytania akapitu z sześcioletniej książki i nie tylko zrozumienia słów, ale także ich znaczenia. Google wydaje na to miliardy dolarów. Przy skomplikowanych rzeczach - jak obliczenia, obliczanie strategii rynku finansowego, tłumaczenie języka - komputer radzi sobie z tym z łatwością, ale z prostymi rzeczami - wizja, ruch, percepcja - nie. Jak ujął to Donald Knuth: „AI robi teraz prawie wszystko, co wymaga„ myślenia”, ale nie radzi sobie z tym, co ludzie i zwierzęta robią bez myślenia”.
Kiedy pomyślisz o przyczynach tego, zdasz sobie sprawę, że rzeczy, które wydają się nam proste do zrobienia, wydają się takie tylko dlatego, że zostały zoptymalizowane dla nas (i zwierząt) przez setki milionów lat ewolucji. Kiedy sięgasz do obiektu, mięśnie, stawy, kości ramion, łokci i dłoni natychmiast wykonują długie łańcuchy fizycznych operacji, zsynchronizowanych z tym, co widzisz, i poruszają ramieniem w trzech wymiarach. Wydaje Ci się to proste, ponieważ za te procesy odpowiada idealne oprogramowanie w Twoim mózgu. Ta prosta sztuczka sprawia, że procedura rejestracji nowego konta poprzez wpisanie krzywo napisanego słowa (captcha) jest dla ciebie prosta i cholera dla złośliwego bota. Dla naszego mózgu nie jest to trudne: wystarczy widzieć.
Z drugiej strony mnożenie dużych liczb czy granie w szachy to nowe czynności dla biologicznych stworzeń, a my nie zdążyliśmy się w nich poprawić (nie miliony lat), więc komputerowi nie jest trudno nas pokonać. Pomyśl tylko: czy wolałbyś stworzyć program, który potrafi mnożyć duże liczby, czy program rozpoznający literę B w milionach pisowni, w najbardziej nieprzewidywalnych czcionkach, ręcznie lub kijem w śniegu?
Jeden prosty przykład: kiedy na to patrzysz, ty i twój komputer zdajecie sobie sprawę, że są to naprzemienne kwadraty o dwóch różnych odcieniach.
Ale jeśli usuniesz czerń, natychmiast opiszesz pełny obraz: cylindry, płaszczyzny, kąty trójwymiarowe, ale komputer nie.
Opisze to, co widzi jako różnorodne dwuwymiarowe kształty w różnych odcieniach, co w zasadzie jest prawdą. Twój mózg wykonuje mnóstwo pracy, interpretując głębię, grę cieni, światło w obrazie. Na poniższym obrazku komputer zobaczy dwuwymiarowy biało-szaro-czarny kolaż, podczas gdy w rzeczywistości jest to trójwymiarowy kamień.
A to, co właśnie opisaliśmy, jest wierzchołkiem góry lodowej, jeśli chodzi o zrozumienie i przetwarzanie informacji. Aby osiągnąć ten sam poziom z osobą, komputer musi zrozumieć różnicę w subtelnych wyrazach twarzy, różnicę między przyjemnością, smutkiem, satysfakcją, radością i dlaczego Chatsky jest dobry, a Molchalin nie.
Co robić?
Pierwszy krok do budowy AGI: zwiększenie mocy obliczeniowej
Jedną z niezbędnych rzeczy, które muszą się wydarzyć, aby AGI było możliwe, jest zwiększenie mocy sprzętu komputerowego. Jeśli system sztucznej inteligencji ma być tak inteligentny jak mózg, musi dorównać mózgowi surową mocą przetwarzania.
Jednym ze sposobów zwiększenia tej zdolności jest całkowita liczba obliczeń na sekundę (OPS), które mózg może wykonać, a możesz określić tę liczbę, obliczając maksymalny OPS dla każdej struktury mózgu i łącząc je.
Ray Kurzweil doszedł do wniosku, że wystarczy profesjonalnie oszacować OPS jednej struktury i jej wagę w stosunku do wagi całego mózgu, a następnie pomnożyć ją proporcjonalnie, aby uzyskać ogólne oszacowanie. Brzmi trochę wątpliwie, ale robił to wiele razy z różnymi szacunkami różnych obszarów i zawsze wymyślał tę samą liczbę: rzędu 10^16, czyli 10 biliardów OPS.
Najszybszy superkomputer na świecie, chiński Tianhe-2, już przekroczył tę liczbę: jest w stanie wykonać około 32 biliardy operacji na sekundę. Ale Tianhe-2 zajmuje 720 metrów kwadratowych powierzchni, zużywa 24 megawaty energii (nasz mózg zużywa tylko 20 watów) i kosztuje 390 milionów dolarów. Nie mówimy o użyciu komercyjnym lub powszechnym.
Kurzweil sugeruje, że oceniamy kondycję komputerów na podstawie tego, ile OPS można kupić za 1000 USD. Kiedy ta liczba osiągnie poziom ludzki - 10 biliardów OPS - AGI może stać się częścią naszego życia.
Prawo Moore'a – historycznie wiarygodna zasada, że maksymalna moc obliczeniowa komputerów podwaja się co dwa lata – sugeruje, że rozwój technologii komputerowej, podobnie jak przemieszczanie się człowieka przez historię, rośnie wykładniczo. Jeśli porównamy to z zasadą tysiąca dolarów Kurzweila, możemy teraz pozwolić sobie na 10 bilionów OPS za 1000 USD.
Komputery za 1000 dolarów omijają mózg myszy w swojej mocy obliczeniowej i są tysiąc razy słabsze od ludzi. Wydaje się to złym wskaźnikiem, dopóki nie przypomnimy sobie, że komputery były bilion razy słabsze od ludzkiego mózgu w 1985 roku, miliard w 1995 i milion w 2005. Do 2025 roku powinniśmy mieć komputer w przystępnej cenie, który może konkurować z mocą obliczeniową naszego mózgu.
Tak więc surowa moc wymagana dla AGI jest już technicznie dostępna. W ciągu 10 lat opuści Chiny i rozprzestrzeni się na cały świat. Jednak sama moc obliczeniowa nie wystarczy. A następne pytanie brzmi: w jaki sposób dostarczamy inteligencji na poziomie człowieka z całą tą mocą?
Drugi krok do stworzenia AGI: nadanie mu inteligencji
Ta część jest dość trudna. Tak naprawdę nikt tak naprawdę nie wie, jak sprawić, by maszyna była inteligentna – wciąż próbujemy wymyślić, jak stworzyć inteligencję na poziomie człowieka, która potrafi odróżnić kota od psa, odizolować B narysowane na śniegu i przeanalizować drugorzędny film. Istnieje jednak kilka perspektywicznych strategii i w pewnym momencie jedna z nich powinna zadziałać.
1. Powtórz mózg
Ta opcja jest taka, jakby naukowcy byli w tej samej klasie z dzieckiem, które jest bardzo mądre i dobre w odpowiadaniu na pytania; a nawet jeśli pilnie starają się zrozumieć naukę, nie zbliżają się nawet do dogonienia mądrego dziecka. W końcu decydują: do diabła, po prostu spisuj odpowiedzi na jego pytania. To ma sens: nie możemy zbudować super złożonego komputera, więc dlaczego nie wziąć za podstawę jednego z najlepszych prototypów we wszechświecie: naszego mózgu?
Świat nauki ciężko pracuje, aby dowiedzieć się, jak działają nasze mózgi i jak ewolucja stworzyła tak złożoną rzecz. Według najbardziej optymistycznych szacunków będą mogli to zrobić dopiero do 2030 roku. Ale kiedy zrozumiemy wszystkie tajemnice mózgu, jego wydajność i moc, możemy zainspirować się jego metodami tworzenia technologii. Na przykład jedną z architektur komputerowych, która naśladuje pracę mózgu, jest sieć neuronowa. Zaczyna od sieci tranzystorów „neuronów” połączonych ze sobą wejściem i wyjściem i nic nie wie – jak noworodek. System „uczy się”, próbując wykonywać zadania, rozpoznawać odręczny tekst i tym podobne. Połączenia między tranzystorami są wzmacniane w przypadku poprawnej odpowiedzi i osłabiane w przypadku błędnej. Po wielu cyklach pytań i odpowiedzi system tworzy inteligentne sploty neuronowe, które są zoptymalizowane pod kątem konkretnych zadań. Mózg uczy się w podobny sposób, ale w znacznie bardziej złożony sposób, a gdy go kontynuujemy, odkrywamy niesamowite nowe sposoby na poprawę sieci neuronowych.
Jeszcze bardziej ekstremalny plagiat obejmuje strategię zwaną pełną emulacją mózgu. Cel: Pocięcie prawdziwego mózgu na cienkie plasterki, zeskanuj każdy z nich, a następnie dokładnie zrekonstruuj model 3D za pomocą oprogramowania, a następnie przetłumacz go na potężny komputer. Wtedy będziemy mieli komputer, który może oficjalnie robić wszystko, co mózg: musi tylko uczyć się i zbierać informacje. Jeśli inżynierowie odniosą sukces, będą mogli naśladować prawdziwy mózg z tak niesamowitą dokładnością, że po pobraniu na komputer jego prawdziwa tożsamość i pamięć pozostaną nienaruszone. Jeśli mózg należał do Vadima przed śmiercią, komputer obudzi się w roli Vadima, który będzie teraz AGI na poziomie ludzkim, a my z kolei zmienimy Vadima w niesamowicie inteligentnego ISI, co z pewnością być zachwycony.
Jak daleko jesteśmy od całkowitego naśladowania mózgu? Prawdę mówiąc, właśnie naśladowaliśmy mózg milimetra płazińca, który zawiera łącznie 302 neurony. Ludzki mózg zawiera 100 miliardów neuronów. Jeśli próba osiągnięcia tej liczby wydaje ci się daremna, pomyśl o wykładniczym tempie wzrostu postępu. Następnym krokiem będzie emulacja mózgu mrówki, potem będzie mysz, a potem osoba będzie w zasięgu ręki.
2. Spróbuj podążać tropem ewolucji
Cóż, jeśli uznamy, że odpowiedzi mądrego dziecka są zbyt skomplikowane, by je odpisywać, możemy spróbować podążać jego śladami nauki i przygotowania do egzaminów. Co wiemy? Całkiem możliwe jest zbudowanie komputera tak potężnego jak mózg - udowodniła to ewolucja naszych własnych mózgów. A jeśli mózg jest zbyt złożony, by naśladować, możemy spróbować naśladować ewolucję. Chodzi o to, że nawet jeśli potrafimy naśladować mózg, może to być jak próba zbudowania samolotu przez śmiesznie machanie rękami, które naśladują ruchy skrzydeł ptaków. Najczęściej udaje nam się tworzyć dobre maszyny, stosując podejście zorientowane na maszyny, a nie dokładną imitację biologii.
Jak symulować ewolucję, aby zbudować AGI? Ta metoda zwana „algorytmami genetycznymi” powinna działać mniej więcej tak: musi istnieć produktywny proces i jego ocena, który będzie się powtarzał w kółko (w ten sam sposób istoty biologiczne „istnieją” i „są oceniane” według ich zdolności powielać). Grupa komputerów będzie wykonywać zadania, a najbardziej udane z nich podzielą się swoimi cechami z innymi komputerami „wyjście”. Mniej udani zostaną bezlitośnie wyrzuceni na śmietnik historii. Poprzez wiele, wiele iteracji ten proces doboru naturalnego stworzy lepsze komputery. Wyzwanie polega na stworzeniu i zautomatyzowaniu cykli hodowlanych i ewaluacyjnych, tak aby proces ewolucji przebiegał sam.
Minusem kopiowania ewolucji jest to, że potrzeba ewolucji miliardów lat, aby coś zrobić, a my potrzebujemy tylko kilku dekad, aby to zrobić.
Ale mamy wiele zalet, w przeciwieństwie do ewolucji. Po pierwsze, nie ma daru przewidywania, działa przypadkiem – wydaje np. bezużyteczne mutacje – i możemy sterować procesem w ramach przydzielonych zadań. Po drugie, ewolucja nie ma celu, w tym pragnienia inteligencji – czasami w środowisku pewien gatunek nie wygrywa kosztem inteligencji (bo ta druga zużywa więcej energii). Z drugiej strony możemy dążyć do zwiększenia inteligencji. Po trzecie, aby wybrać inteligencję, ewolucja musi wprowadzić szereg ulepszeń stron trzecich – takich jak redystrybucja zużycia energii przez komórki – możemy po prostu usunąć nadmiar i wykorzystać energię elektryczną. Bez wątpienia będziemy szybsi niż ewolucja - ale znowu nie jest jasne, czy możemy ją przewyższyć.
3. Zostaw komputery samym sobie
To ostatnia szansa, kiedy naukowcy są całkowicie zdesperowani i próbują zaprogramować program samorozwoju. Jednak ta metoda może okazać się najbardziej obiecująca ze wszystkich. Chodzi o to, że budujemy komputer, który będzie miał dwie podstawowe umiejętności: badanie sztucznej inteligencji i zmiany kodu w sobie - co pozwoli mu nie tylko nauczyć się więcej, ale także ulepszyć własną architekturę. Możemy wyszkolić komputery, aby były własnymi inżynierami komputerowymi, aby mogły się rozwijać. A ich głównym zadaniem będzie wymyślenie, jak stać się mądrzejszym. Porozmawiamy o tym bardziej szczegółowo.
Wszystko to może się wydarzyć już niedługo
Szybkie postępy w sprzęcie i eksperymenty z oprogramowaniem działają równolegle, a AGI może pojawić się szybko i nieoczekiwanie z dwóch głównych powodów:
1. Wykładniczy wzrost jest intensywny i to, co wydaje się ślimaczym krokiem, może szybko przekształcić się w siedmiomilowe skoki - ten-g.webp
animowany obraz: hi-news.ru/wp-content/uploads/2015/02/gif.gif
2. Jeśli chodzi o oprogramowanie, postęp może wydawać się powolny, ale wtedy jeden przełom natychmiast zmienia szybkość postępu (dobry przykład: w czasach geocentrycznego światopoglądu trudno było ludziom obliczyć działanie wszechświata, ale odkrycie heliocentryzmu znacznie ułatwiło sprawę). Lub, jeśli chodzi o komputer, który sam się poprawia, sprawy mogą wydawać się bardzo powolne, ale czasami tylko jedna poprawka w systemie oddziela go od tysiąckrotnie większej wydajności w porównaniu do ludzkiej lub starszej wersji.
Droga z AGI do ISI
W pewnym momencie na pewno dostaniemy AGI – ogólną sztuczną inteligencję, komputery o ogólnoludzkim poziomie inteligencji. Komputery i ludzie będą żyć razem. Albo nie.
Chodzi o to, że AGI z tym samym poziomem inteligencji i mocy obliczeniowej co ludzie nadal będą mieć znaczną przewagę nad ludźmi. Na przykład:
Ekwipunek
Prędkość. Neurony mózgu działają z częstotliwością 200 Hz, podczas gdy nowoczesne mikroprocesory (które są znacznie wolniejsze niż te, które otrzymamy do czasu utworzenia AGI) działają z częstotliwością 2 GHz, czyli 10 milionów razy szybciej niż nasze neurony. A wewnętrzna komunikacja mózgu, która może poruszać się z prędkością 120 m / s, jest znacznie gorsza od zdolności komputerów do korzystania z optyki i prędkości światła.
Rozmiar i przechowywanie. Rozmiar mózgu jest ograniczony rozmiarem naszych czaszek i nie może być większy, w przeciwnym razie komunikacja wewnętrzna z prędkością 120 m / s zajmie zbyt dużo czasu, aby podróżować z jednej struktury do drugiej. Komputery mogą rozszerzać się do dowolnego rozmiaru fizycznego, wykorzystywać więcej sprzętu, zwiększać pamięć RAM, pamięć długotrwałą - wszystko to przekracza nasze możliwości.
Niezawodność i trwałość. Nie tylko pamięć komputera jest dokładniejsza niż pamięć ludzka. Tranzystory komputerowe są dokładniejsze niż neurony biologiczne i są mniej podatne na degradację (i rzeczywiście można je wymienić lub naprawić). Mózgi ludzi męczą się szybciej, podczas gdy komputery mogą pracować bez przerwy, 24 godziny na dobę, 7 dni w tygodniu.
Oprogramowanie
Możliwość edycji, modernizacji, szerszy wachlarz możliwości. W przeciwieństwie do ludzkiego mózgu, program komputerowy można łatwo korygować, aktualizować i eksperymentować. Obszary, w których ludzki mózg jest słaby, również można ulepszyć. Ludzkie oprogramowanie do widzenia jest znakomicie zaprojektowane, ale z inżynierskiego punktu widzenia jego możliwości są nadal bardzo ograniczone – widzimy tylko widzialne spektrum światła.
Zdolność zbiorowa. Ludzie przewyższają inne gatunki pod względem wielkiej zbiorowej inteligencji. Począwszy od rozwoju języka i formowania się dużych społeczności, poprzez wynalazki pisania i drukowania, a teraz napędzane narzędziami takimi jak Internet, zbiorowa inteligencja ludzi jest ważnym powodem, dla którego możemy nazywać siebie koroną ewolucji. Ale komputery nadal będą lepsze. Światowa sieć sztucznej inteligencji pracująca na jednym programie, stale synchronizująca się i samorozwijająca się, pozwoli Ci błyskawicznie dodawać nowe informacje do bazy, gdziekolwiek je otrzymasz. Taka grupa będzie również w stanie pracować na rzecz jednego celu jako całości, ponieważ komputery nie cierpią z powodu niezgody, motywacji i interesowności, jak ludzie.
Sztuczna inteligencja, która prawdopodobnie stanie się AGI poprzez zaprogramowane samodoskonalenie, nie będzie postrzegać „inteligencji na poziomie człowieka” jako ważnego kamienia milowego – ten kamień milowy jest ważny tylko dla nas. Nie będzie miał powodu, by zatrzymać się na tym wątpliwym poziomie. A biorąc pod uwagę zalety, jakie będą miały nawet AGI na poziomie ludzkim, jest całkiem oczywiste, że ludzka inteligencja będzie dla niej krótkim błyskiem w wyścigu o intelektualną wyższość.
Taki rozwój wydarzeń może nas bardzo, bardzo zaskoczyć. Faktem jest, że z naszego punktu widzenia a) jedynym kryterium pozwalającym określić jakość inteligencji jest inteligencja zwierząt, która jest domyślnie niższa od naszej; b) dla nas najmądrzejsi ludzie są ZAWSZE mądrzejsi od najgłupszych. Tak:
Oznacza to, że podczas gdy sztuczna inteligencja po prostu próbuje osiągnąć nasz poziom rozwoju, widzimy, jak staje się mądrzejsza, zbliżając się do poziomu zwierzęcia. Kiedy dojdzie do pierwszego ludzkiego poziomu – Nick Bostrom używa określenia „wiejski idiota” – będziemy zachwyceni: „Wow, on już jest jak kretyn. Fajny! Jedyną rzeczą jest to, że w ogólnym spektrum inteligencji ludzi, od wiejskiego idioty po Einsteina, zasięg jest niewielki - dlatego po tym, jak AI osiągnie poziom idioty i stanie się AGI, nagle stanie się mądrzejszy niż Einsteina.
A co będzie dalej?
Eksplozja inteligencji
Mam nadzieję, że uznałeś to za interesujące i zabawne, ponieważ od tego momentu temat, który omawiamy, staje się nienormalny i przerażający. Powinniśmy zatrzymać się i przypomnieć sobie, że każdy fakt podany powyżej i poza nim jest prawdziwą nauką i prawdziwymi przewidywaniami na przyszłość dokonanymi przez najwybitniejszych myślicieli i naukowców. Pamiętaj tylko.
Tak więc, jak wskazaliśmy powyżej, wszystkie nasze nowoczesne modele osiągania AGI zawierają opcję, gdy sztuczna inteligencja sama się poprawia. A gdy tylko staje się AGI, nawet systemy i metody, dzięki którym dorastał, stają się wystarczająco inteligentne, aby się doskonalić – jeśli chcą. Pojawia się ciekawa koncepcja: rekurencyjne samodoskonalenie. To działa tak.
Pewien system sztucznej inteligencji na pewnym poziomie – powiedzmy wiejski idiota – jest zaprogramowany, aby poprawić własną inteligencję. Rozwijając się - powiedzmy do poziomu Einsteina - taki system zaczyna się rozwijać już z intelektem Einsteina, jego rozwój zajmuje mniej czasu, a skoki są coraz większe. Pozwalają systemowi przewyższać każdą osobę, stając się coraz bardziej. Wraz z szybkim rozwojem, AGI wznosi się na niebiańskie wyżyny swojej inteligencji i staje się superinteligentnym systemem ISI. Proces ten nazywa się eksplozją inteligencji i jest najjaśniejszym przykładem prawa przyspieszających powrotów.
Naukowcy spierają się o to, jak szybko sztuczna inteligencja osiągnie poziom AGI – większość wierzy, że uzyskamy AGI do 2040 roku, w ciągu zaledwie 25 lat, co jak na standardy rozwoju technologii to bardzo, bardzo niewiele. Kontynuując logiczny łańcuch, łatwo założyć, że przejście z AGI na ISI również nastąpi niezwykle szybko. Tak:
„Minęło dziesięciolecia, zanim pierwszy system sztucznej inteligencji osiągnął najniższy poziom ogólnej inteligencji, ale w końcu tak się stało. Komputer jest w stanie zrozumieć otaczający świat jako czteroletnia osoba. Nagle, dosłownie godzinę po osiągnięciu tego kamienia milowego, system tworzy wspaniałą teorię fizyki, która łączy ogólną teorię względności i mechanikę kwantową, czego żaden człowiek nie jest w stanie zrobić. Po półtorej godziny sztuczna inteligencja staje się ISI, 170 000 razy mądrzejsza niż jakikolwiek człowiek.”
Nie mamy nawet odpowiednich terminów, aby opisać superinteligencję tej wielkości. W naszym świecie „inteligentny” oznacza osobę z IQ 130, „głupi” - 85, ale nie mamy przykładów ludzi z IQ 12 952. Nasi władcy nie są do tego stworzeni.
Historia ludzkości mówi nam jasno i wyraźnie: wraz z intelektem idzie moc i siła. Oznacza to, że gdy stworzymy sztuczną superinteligencję, będzie ona najpotężniejszą istotą w historii życia na Ziemi, a wszystkie żywe istoty, w tym ludzie, będą całkowicie w jej mocy – a to może nastąpić za dwadzieścia lat.
Gdyby nasze skromne mózgi były w stanie wymyślić Wi-Fi, to coś mądrzejszego od nas sto, tysiąc, miliard razy może z łatwością obliczyć położenie każdego atomu we wszechświecie w dowolnym momencie. Wszystko, co można nazwać magią, każda moc przypisana wszechmocnemu bóstwu - wszystko to będzie do dyspozycji ISI. Tworzenie technologii odwracania starzenia, leczenie wszelkich chorób, eliminowanie głodu, a nawet śmierci, kontrolowanie pogody – wszystko stanie się nagle możliwe. Możliwy jest również natychmiastowy koniec wszelkiego życia na Ziemi. Najmądrzejsi ludzie na naszej planecie są zgodni, że jak tylko sztuczna superinteligencja pojawi się na świecie, będzie oznaczać pojawienie się Boga na Ziemi. I pozostaje ważne pytanie.
