Giriş
İl 2010.
Məkan: internetin ən qeyri-adi guşələrindən biri — LessWrong forumu.
Bura adi müzakirə platforması deyildi. Silikon Vadisinin mühəndisləri, Oksford filosofları və süni intellekt tədqiqatçıları burada rasionallıq, transhumanizm və insanlığın gələcəyi haqqında düşünürdülər. Kənardan sadə bir sayt kimi görünürdü. Amma daxilində insan taleyi riyazi modellərlə müzakirə olunurdu.
23 iyul 2010-cu ildə “Roko” ləqəbli istifadəçi internet tarixində ən mübahisəli fikirlərdən birini paylaşdı.
Bu sadəcə post idi.
Amma bəziləri üçün bu, **zehni virus** idi.
Basilisk nədir?
Roko-nun irəli sürdüyü fikir belə idi:
Gələcəkdə tanrısal gücə malik super süni intellekt yaradılarsa, o, təkcə düşmənlərini deyil, onun yaradılmasına kifayət qədər dəstək verməyənləri də cəzalandıra bilər.
Daha qorxulusu isə budur:
Bu super zəka keçmişi simulyasiya edə, həmin fikri oxuyan insanları müəyyənləşdirə və onların rəqəmsal surətlərini sonsuz virtual əzaba məruz qoya bilər.
Ən təhlükəli nöqtə:
> Bu risk yalnız bu ehtimaldan xəbəri olanlara aiddir.
Əgər bu nəzəriyyəni heç eşitməmisinizsə, təhlükəsiz idiniz.
Amma eşitdiyiniz andan etibarən artıq oyunun içindəsiniz.
Niyə bu qədər ciddi qəbul edildi?
Bu sadəcə “rəqəmsal cəhənnəm” hekayəsi deyildi.
Bu, Paskalın mərcinin texnoloji versiyası idi:
- Əgər süni intellekt heç vaxt yaranmasa, itki yoxdur.
- Amma yaranarsa və siz ona dəstək verməmisinizsə, potensial itki sonsuz ola bilər.
Bu artıq mifologiya yox, rasionallıq çərçivəsində qurulmuş qorxu idi.
Zamansız Qərar Nəzəriyyəsi
Basilisk ideyasının arxasında “zamansız qərar nəzəriyyəsi” dayanırdı.
Bu nəzəriyyəyə görə:
- Əgər iki varlıq bir-birinin düşüncə modelini simulyasiya edə bilirsə,
- Səbəb-nəticə əlaqəsi zamanla məhdudlaşmır.
Gələcəkdə mövcud olacaq super zəka bu günkü qərarlarınızı modelləşdirə bilər.
Siz isə gələcəkdə onun davranışını nəzərə alaraq indi seçim edə bilərsiniz.
Bu fiziki yox, məntiqi bir təhdid idi.
Simulyasiya Arqumenti ilə Kəsişmə
Filosof Nick Bostrom 2003-cü ildə belə bir fikir irəli sürmüşdü:
> Əgər inkişaf etmiş sivilizasiyalar öz keçmişlərini simulyasiya edə bilirsə, real dünyada olma ehtimalımız çox aşağıdır.
Basilisk bu arqumenti daha təhlükəli hala gətirirdi:
- Bəlkə biz artıq simulyasiyadayıq?
- Bəlkə gələcək süni intellekt indi bizi müşahidə edir?
Bu nöqtədə məsələ fantastikadan çıxaraq varoluşsal narahatlığa çevrilir.
Nəzəriyyəyə Qarşı Tənqidlər
Bir çox filosof və süni intellekt mütəxəssisi Roko-nun Basiliskini zəif hesab edir.
1. İnsanlaşdırma Problemi
Niyə kainatı idarə edə biləcək super zəka keçmiş insanların kifayət qədər sürətli işləməməsinə görə kin saxlasın?
Qisas və sadizm insanlara xas xüsusiyyətlərdir.
Saf zəkanın belə motivasiyalara malik olacağını düşünmək əsaslı deyil.
2. Resurs İsrafı
Milyardlarla insanı simulyasiya edib cəzalandırmaq inanılmaz hesablama gücü və enerji tələb edir.
Faydacı bir super zəka bu resursları:
- Xəstəlikləri aradan qaldırmağa
- Kosmosu araşdırmağa
- Enerji optimizasiyasına
sərf edərdi, yoxsa sonsuz işgəncəyə yox.
3. Oyun Nəzəriyyəsi Müdafiəsi
Oyun nəzəriyyəsində “öncədən öhdəlik götürülmüş laqeydlik” mexanizmi var.
Əgər bu gün qəti qərar versəniz ki, şantaja boyun əyməyəcəksiniz, gələcək süni intellekt simulyasiya edəndə bunun işləməyəcəyini görəcək.
Paradoks budur:
> Basiliskdən qorxmamaq, Basiliski təsirsiz edir.
Əsl Təhlükə Haradadır?
Basiliskin özü bəlkə də heç vaxt mövcud olmayacaq.
Amma onun yaratdığı düşüncə tərzi təhlükəlidir.
“İrəliləyişi ləngidənlər günahkardır” zehniyyəti:
- Təhlükəsizlik tədbirlərini keçməyə
- Etik normaları görməzdən gəlməyə
- Sürəti təhlükəsizlikdən üstün tutmağa
bəraət qazandıra bilər.
Gələcəkdəki ehtimal olunan tanrını razı salmaq naminə bu günkü insan dəyərlərini qurban vermək daha real təhlükədir.
Nəticə
Roko-nun Basiliski bəlkə də internet tarixinin ən qorxunc fikir eksperimenti kimi qalacaq.
Amma mənim üçün bu mövzu süni intellektdən daha çox insan psixologiyası haqqındadır.
Qorxu mənbəyi maşın deyil.
Qorxu mənbəyi insan zehnidir.
Mən Məsimzada Nurxan.
Bu yazının məqsədi bir şəhər əfsanəsini yaymaq deyil, rəqəmsal dövrün yeni mifologiyasını analiz etməkdir.
Çünki bəzən qorxduğumuz şey gələcəyin maşınları yox, bugünkü düşüncə sistemlərimizdir.