W 2018 roku sekretarz generalny ONZ António Guterres uznał zmiany klimatu za najważniejsze wyzwanie naszej epoki. Dziś jednak, patrząc na najnowsze prognozy, wielu ekspertów od sztucznej inteligencji mówi wprost: sorry, klimacie, ale AGI może cię wyprzedzić – i to z dużą nawiązką. Autor posta na platformie LessWrong, SethW, zestawił ze sobą harmonogramy obu tych zagrożeń, argumentując, że najwyższy czas skupić się na bezpieczeństwie AI, bo to ono jako pierwsze zmieni zasady gry.

TL;DR

  • Prognozy serwisu Metaculus wskazują medianę nadejścia AGI na listopad 2033, z 25% szansą na debiut przed 2028 rokiem.
  • Kluczowe punkty krytyczne klimatu, takie jak załamanie prądu AMOC, mogą wystąpić najwcześniej w latach 2037-2055.
  • Autor analizy priorytetyzuje bezpieczeństwo AI, ponieważ technologia rozwija się znacznie szybciej niż klimatyczne katastrofy.
  • AGI definiuje się tu jako system przechodzący rygorystyczne testy inteligencji, robotykę oraz dwugodzinny test Turinga.
  • Istnieją możliwe interakcje: gwałtowne katastrofy klimatyczne mogą paradoksalnie spowolnić wyścig zbrojeń w dziedzinie AI.

Co oznacza AGI w tych prognozach?

W tej konkretnej dyskusji SethW nie ma na myśli byle jakiego algorytmu, ale bardzo specyficzną wersję ogólnej sztucznej inteligencji. Chodzi o system, który nie tylko „rozbija bank” w testach inteligencji, ale realnie radzi sobie z zaawansowaną robotyką – potrafi na przykład złożyć model samochodu za pomocą ramion robota – i przechodzi morderczy, dwugodzinny test Turinga z inteligentnym sędzią, który robi wszystko, by zdemaskować maszynę. To poprzeczka zawieszona niezwykle wysoko, znacznie bliższa wizjom science-fiction niż dzisiejsze, znane nam modele językowe.

Prezentowane prognozy pochodzą z platformy Metaculus (pytanie numer 5121), gdzie tysiące analityków obstawia datę pierwszego publicznego ogłoszenia powstania takiego AGI. Mediana wskazuje na listopad 2033, dolny kwartyl to rok 2028, a górny 2045. Dla porównania, obecne trendy w tempie wykonywania zadań programistycznych dają zbliżone wyniki – rozwój technologii przyspiesza w sposób wykładniczy.

Ironia losu polega na tym, że jeśli rządy zaczną gwałtownie hamować rozwój AI z obaw o bezpieczeństwo, te harmonogramy mogą się wydłużyć, ale zegar klimatyczny i tak nie przestanie tykać.

Lodowiec Antarktydy Zachodniej – długa gra

Lodowiec Antarktydy Zachodniej to absolutny klasyk w repertuarze alarmów klimatycznych: jego topnienie oznacza drastyczny wzrost poziomu mórz. SethW podkreśla jednak istotny szczegół – możemy „aktywować” ten punkt krytyczny stosunkowo wcześnie, ale sam proces fizycznego znikania lodu potrwa całe wieki. Realne, katastrofalne efekty odczujemy dopiero w okolicach roku 2100 czy 2150. Badania publikowane w Nature wskazują na zjawisko histerezy, gdzie po przekroczeniu pewnego progu powrót do stanu pierwotnego jest niemal niemożliwy, ale ramy czasowe pozostają bardzo odległe.

Z perspektywy krótkoterminowej nie jest to więc ryzyko egzystencjalne – powodzie i gwałtowne sztormy już teraz dają się we znaki miastom nadmorskim, ale nie oznacza to jeszcze nagłego końca cywilizacji. SethW ironizuje: nawet jeśli nasze społeczeństwo przetrwa do 2150 roku bez zaawansowanej robotyki czy AGI, to i tak gorzko pożałujemy dzisiejszego niedoinwestowania w ochronę klimatu.

To idealnie obrazuje, dlaczego porównanie z AI jest tak bolesne: potężne AGI mogłoby teoretycznie rozwiązać problemy klimatyczne, o ile tylko pojawi się na scenie odpowiednio wcześnie.

Rafy koralowe i ich upadek – strata, ale nie apokalipsa

Rafy koralowe giną w zastraszającym tempie przez globalne ocieplenie i postępujące zakwaszenie oceanów. Choć miliony ludzi polegają na nich w kwestii ochrony przed sztormami i pozyskiwania pożywienia, SethW pozostaje sceptyczny co do ich roli w kontekście „końca świata”. Nawet całkowity kolaps tych ekosystemów nie doprowadzi bezpośrednio do wyginięcia ludzkości czy upadku globalnej cywilizacji.

Aktualne badania wskazują na możliwe załamanie w ciągu najbliższych dekad, jeśli zrealizują się scenariusze wysokiej emisji gazów cieplarnianych. To gigantyczna strata dla bioróżnorodności i dramat dla egzystencji wielu społeczności, ale wciąż nie jest to punkt krytyczny o skali globalnego unicestwienia.

W kontekście wyścigu z AI priorytet wydaje się przesądzony – umierające rafy, choć tragiczne, nie są w stanie zatrzymać rozpędzonego postępu technologicznego.

Załamanie prądu AMOC – chłód dla Europy

Prąd Atlantycki Meridionalny (AMOC) działa niczym gigantyczna taśma przenosząca ciepło z tropików w stronę Europy. Gdy topniejąca Grenlandia wpompuje do oceanu zbyt dużo słodkiej wody, prąd ten może zwolnić lub całkowicie zaniknąć. Wtedy Marsylia ochłodzi się do temperatur znanych z Toronto, a Mediolan zacznie przypominać Montreal – czekają nas zamarznięte rurociągi, unieruchomione turbiny wiatrowe i masowe migracje ludności.

Najwcześniejsze, choć wciąż spekulacyjne prognozy wskazują na początek tego procesu w latach 2037-2055; inne badania celują w rok 2055 lub jeszcze później. Cały proces rozciąga się na dekady, przypominając raczej powolną degradację niż sceny z filmu katastroficznego „Pojutrze”. To jednak prawdziwa geopolityczna bomba: wyobraźcie sobie Brexit pomnożony przez skalę całego kontynentu.

SethW ostrzega: wczesne efekty tych zmian mogą poważnie zdezorganizować wyścig o AI, wywołując krach na rynku ubezpieczeń czy nieprzewidziane klęski plag. Zegar zagłady wskazuje 85 sekund do północy. Sztuczna inteligencja i nacjonalizm mocarstw pchnęły nas ku katastrofie.

Obumieranie Amazonii – domino suszy i pożarów

Amazonia to unikalny, samonapędzający się system nawadniania: drzewa pompują wodę i tworzą chmury, które generują deszcz dla dalszych obszarów lasu. Wylesianie i ocieplenie uruchamiają tu niszczycielski efekt domina – susze prowadzą do pożarów, te do jeszcze większego wylesiania, aż w końcu dżungla zamienia się w suchą sawannę. Proces ten trwa dekady lub stulecia, a dodatkowa emisja CO2 z płonących lasów może podnieść globalną temperaturę o kolejne 0,1-0,2°C.

Najczarniejsze prognozy wiążą ten scenariusz z ociepleniem o 3-4°C lub wycięciem 40% pierwotnego lasu. W takim układzie połowa brazylijskiej energii z elektrowni wodnych staje pod znakiem zapytania, a globalne bezpieczeństwo żywnościowe (produkcja soi i wołowiny) zostaje poważnie zagrożone.

Istnieje tu ryzyko kaskady: ewentualne załamanie prądu AMOC może drastycznie przyspieszyć proces obumierania Amazonii.

Dlaczego AI wygrywa wyścig i co to oznacza?

SethW zestawił te wszystkie harmonogramy i wniosek jest jeden: AGI prawdopodobnie pojawi się przed wszystkimi kluczowymi punktami krytycznymi klimatu. Jeśli ogólna inteligencja okaże się potężnym narzędziem w naszych rękach, pomoże nam rozwiązać kryzys klimatyczny; jeśli jednak okaże się niebezpieczna – klimat stanie się naszym najmniejszym zmartwieniem. Nawet w scenariuszach, gdzie natura uderzy pierwsza (późne AGI, wczesne katastrofy), kwestia bezpieczeństwa AI wciąż zasługuje na najwyższy priorytet.

Możliwe interakcje są złożone: zmiany klimatu mogą spowolnić rozwój AI, na przykład poprzez destabilizację gospodarczą. Autor wzywa do mądrej alokacji zasobów, lepszej komunikacji i planowania z uwzględnieniem tych faktów. Warto dodać, że w wizualizacji tego skomplikowanego timeline’u pomagał model Claude.

Moja analiza? To podejście jest racjonalne, choć trzeba pamiętać, że środowisko LessWrong bywa postrzegane jako „echo chamber” dla osób wieszczących zagładę z rąk AI. Klimat sam z siebie nie zniknie, ale cała ironia polega na tym, że walcząc zaciekle z emisjami, możemy ignorować znacznie szybsze zagrożenie płynące z krzemu.

Źródła: LessWrong (post SethW: https://www.lesswrong.com/posts/Kbk8wR2pXtu4R5uFY/will-agi-arrive-before-the-worst-climate-tipping-points), Metaculus question 5121 (https://www.metaculus.com/questions/5121/), artykuły z Nature i Science.org nt. AMOC, Amazon dieback, WAIS (np. https://www.nature.com/articles/s41586-024-08544-0, https://www.science.org/doi/10.1126/sciadv.add9973)

Najczęściej zadawane pytania