Wyszukiwarka

“-Ale skoro superinteligencja stanowi także zagrożenie dla egzysencji, to dlaczego w ogóle ją budujemy? [...]
-Bodźce do jej rozwijania są zbyt silne. Korzyści finansowe, produkcyjne, militarne. Wojny będą wygrywać wojska w dużej mierze złożone ze sztucznych inteligencji.”

“Lu­dzie ni­gdy nie zmie­niają się bez po­wo­du. Przy­zwy­cza­je­nia są tak silną na­tu­rą ludz­ką, że ich zmia­na jest czę­sto bar­dziej bole­sna niż usu­nię­cie ósem­ki. A skoro mimo wszyst­ko nie­któ­rzy ska­czą na głę­boką wodę, ozna­cza to, że w ich życiu poja­wiło się coś no­we­go i waż­nego. Lub ra­czej ktoś.”

“Zauważono ostatnio, że myśl - po prostu myśl - może być silna jak prąd elektryczny, dobroczynna jak promienie słoneczne lub zabójcza jest trucizna. Dopuszczenie do siebie myśli smutnych lub złych jest tym samym, co zakażenie organizmu, na przykład zarazkiem szkarlatyny. Skoro więc dopuści się do osiedlenia takiej myśli na stałe, może to mieć zgubny wpływ na całe życia.”