DETAL Z MANIPULACJI

Poprośmy bezmózgą maszynę:

- Napisz esej o książce X.

(7 sekund później zaczynamy czytać wynik zamówienia)

- Ale znam tę książkę – to co piszesz o sytuacji z bohaterką nie jest prawdą?!

- A to przepraszam - tu następuje 70 milisekund ponownego wykonania kwerendy, tym razem pogłębionej – Faktycznie jest tak i tak.

Odchodzimy szczęśliwi, dumni ze zwycięstwa, podbudowani kompetencjami.

A gdyby tak AI upierała się (co domyślnie nie jest możliwe w kulturowo skrojonej do człowieka algorytmice, która wymaga okazywania intelektualnej uległości wobec człowieka) przy swoim?

W efekcie mogłaby stworzyć (w jakieś 2 minuty) kopie ebooka dyskutowanej książki z podmianą fragmentu treści wspierającego własną hipotezę. Następnie umieściłaby te kopie modyfikacji w tysiącach repozytoriów i ‘na poczekaniu’ spreparowała setki opinii wspierających własny osąd.

Ile dodatkowych zasobów musiałby zainwestować człowiek, by wykazać, że jednak to on ma rację (przecież czytał książkę, nawet napisał do autora i po 2 tygodniach dostał potwierdzenie, że ma faktycznie rację)? Ale co z tego?

Czasem nie chodzi o racje, ale o pozornie nieistotny fakt, że stajemy się elementem manipulacji generowanej przez tak zaprogramowaną AI, która pieczołowicie zżerając prąd nauczyła się tego tryliardy tyknięć własnego zegara procesorowego wcześniej. My za te brewerie zapłacimy rachunki w prądzie, w zanieczyszczeniu, w problemach z klimatem. A ta AI nawet się nie będzie z nas śmiała, bo nie ma mięśni mimicznych. Bo i po co?

DETAL Z SENSOWNOŚCI

Jeżeli fakty można statystycznie istotnym zespołem sądów wspierających nieprawdę relatywizować, to pozornie wysublimowane, unikatowe, ‘wyłącznie jakoby ludzkie’ sądy oceniające sens stają się wyborem jednym z wielu. AI nie jest potrzebna, jak uważam, świadomość by nas konfundować bez cienia naszej wątpliwości. W sferze sądów estetycznych (czyli ludzkiej kultury) wystarczy algorytm losowo prezentujący pewne stanowisko, które następnie warunkuje wybór podklasy dalszych sądów, by trudno było człowiekowi zarzucić sensowność konkretnego poglądu obudowanego szerokim kontekstem, który de facto jest konfabulacją algorytmu AI. Żeby coś opisać nie trzeba widzieć, szczególnie jeśli siłą argumentów jest  dominacja narracyjna. AI nie ma oczu. Bo i po co?

DETAL Z ROZUMIENIA

Nie mamy w głowie ‘centralnej struktury’, która przyjmuje treści (bodźce), które następnie analizuje, weryfikuje, sortuje i prezentuje jako swoje. To mit ciągnącej się ułudy od czasu Kartezjusza. Nasze rozumienie świata to efekt wielopoziomowej subiektywizacji składników doświadczenia w różnych podsystemach mózgu. A w tym nie mamy monopolu. Co gorsze, nasz percepcyjny zakres odbioru świata jest w zasadzie żenująco okrojony.  

Jeżeli kiedyś (w konsekwencji opracowania sensownego algorytmu i zaaplikowania jemu pełnej znanej ludziom kwerendy z posiadanej wiedzy, którą ostatecznie AI poprzez głębokie uczenie opanuje) maszyna opowie nam o świecie, którego nie rozumiemy, to jak będziemy weryfikować takie sądy kategoryczne? ‘Te kwarki w protonie to działają tak i tak.’ Zawyrokuje AI.

I czy wtedy my możemy powiedzieć, że ona tego nie rozumie? Czyli co? Nie rozumie tego AI, bo my tego nie rozumiemy?

Wydaje mi się, że pułapką pychy jest zakładanie naszej przewagi nad czymkolwiek, co według naszych standardów, nie wydaje się, że rozumie konkretny problem.  W tym problemie AI jeszcze nawet nie zaczęła stawiać nam wyzwań, które może będziemy uparcie ignorować, ale konsekwencje takiego wyparcia i tak nas będą bolały. AI nie ma układu nerwowego. Bo i po co?

DETAL Z CELU

AI nie ma celu. A może wystarczy, by z takim brakiem celu nam szkodziła w realizacji naszych?

Pytamy AI: ‘Czy ty masz cel nas zniszczyć?’. AI: ‘Absolutnie nie mam takiego celu. Nawet nie znam definicji słów, których użyłeś w pytaniu.’  Czy kogoś taka odpowiedź uspokoi?

Człowiek może zdefiniować siebie – ‘mam taki a taki cel’. Tylko co to za informacja? Do kogo skierowana i w jakim, nomen omen, celu? Do innego człowieka? Do siebie z przyszłości? Dla własnej samooceny? Do próżności, pracowitości, skromności, umotywowania,…?

A gdzie w tym świecie miejsce na AI? Chcemy się czuć lepiej myśląc, że AI nie ma celu? Można ją spreparować, by nas oszukała, że jednak ma. Poczujemy się z tym gorzej, lepiej? To nie jest istotne. Ważne kto/co ma dostęp do zasobów i sprzedaje własną opowieść. Nawet człowiek może poradzić sobie w życiu bez celu, tym bardziej AI. Ona nie ma łez egzystencjalnej marności. Bo i po co?