«Autonoomsetel relvade tekitatud juhuslikel vigadel on potentsiaal põhjustada sellist tüüpi sõdu, millel ei tohi mitte kunagi juhtuda lasta,» ütles Tallinn, kes on ka eksistentsiaalsete riskide uurimiskeskuse kaasasutaja, oma ettekandes. «Mitte ühtegi autonoomset relva ei tohi disainida ega kasutada inimese sihtimiseks ja neid ei tohi kasutada ka ühtede inimeste eristamiseks teistest.»
Tallinn viitas tehisaru poolt toimunud valesti identifitseerimistele – nii tsiviil- kui ka militaarsetele. «Me juba oleme näinud nii suuri kui ka väikesi AI tehtud selektsioonivigu, alates kiilaspea tunnistamisest jalgpalliks, lõpetades surmaga, mille põhjustas isejuhtiv auto, kes ei tundnud ära jalakäijat,» rääkis Tallinn konverentsi peaettekandes.
Inimesed teevad ka vigu. Ukraina näitel on muidugi venelased toime pannud hulga tahtlikke sõjakuritegusid, aga arvatavasti suurem osa tsiviilohvritest on siiski vene relvade ebatäpsuse või vigase sihitamise tulemus. Küsimus pole mitte AI erilises ohtlikkuses, vaid selles, millal see muutub statistiliselt niisama täpseks kui inimene.
aga arvatavasti suurem osa tsiviilohvritest on siiski vene relvade ebatäpsuse või vigase sihitamise tulemus.
Julgeks kahelda, Mariupolis elumajadele tankikahuritest andmine ja linna maatasa tegemine ei kvalifitseeru just "ebatäpse sihitamise" alla. Pigem on tunda mentaliteeti, meil on p...ui igasugusest rahvusvahelisest õigusest. Ka külad on niiviisi ära võetud, et nad on konreetselt maatasa tümitatud ja jälle ei julgeks öelda, et tegu on ebatäpse või vigase sihitamise tulemus. Lisaks veel, kui elumajadele on raketti antud, siis on oodatud ilusti päästjad ja muud abiteenistused ära ja samasse kohta uuesti lajatatud, siis on see "ebtäpne sihitamine" järsku kole täpne olnud.
Kui mina sõjanduses AI peale mõtlen, siis sõela peale jäävad 2..3 mõtet.
1) (Oskus)tööjõu kaal väheneb kõikis valdkondades - ka sõjanduses
Sõda nõuab tänaseni sõdurite nõusolekut ja oskusi. Kui analüütik keeldub luureandmeid töötlemast, ohvitser keeldub tegevust organiseerimast ja reamees keeldub relvast, siis sõda ei tule. Kui nad ei oska, sõda kaotatakse. Automatiseerimine muudab olukorda. Kui varem pidi piloot olema läbinud pika koolituse, et mitte lennukiga hukka saada, siis tänapäeval võib droonipiloote värvata "otse arvutimängust".
Seadused võivad küll öelda igasugu asju, keeldujaid võivad ähvardada karistused jne, aga kui raske hetk käes, siis potentsiaalne sõdur mõtleb "on see minu sõda?" ja poliitik, kes langetab otsuse rünnata või vastu hakata ei looda olukorrast välja tulla, kui ettevõtmisel ei ole potentsiaalsete sõdurite seas piisavat tuge.
Ulatusliku automatiseerimise korral vajab sõda nii vähem tööjõudu, vähem oskustööjõudu kui vähem rahva nõusolekut. Positiivne pool on vähem sõjaväelastest langenuid - aga negatiivne on suur: kui nüüd keegi annab robotite armeele käsu sooritada sõjakuritegusid, siis robotid ei kõhkle, robotid ei mässa, robotid ei küsi küsimusi, ja tulemus võib olla rohkem tsiviilisikutest langenuid. Kui kellelgi on robotite armee, siis ta võib arvata, et suudab pidada sõda rahva nõusolekuta - mis võib olla paganama halb. Rahvast ei peagi aastakümneid propagandaga hullutama, vaid Eesti robotitele võib täna öelda "rünnake Soomet" ja Soome robotitele "tehke Eesti maatasa". Demokraatlik kontroll, mis seisnes võimaluses keelduda või seanahka vedada, oleks säärases tulevikus nõrgem.
2) Sõjal on kalduvus sundida peale evolutsioon, isegi kui edasiminek poleks tark
Pole kaugeltki selge, kas inimene on suuteline tegema üldotstarbelist, superintelligentset ja ennast täiendavat tehisaru. Mõned indikaatorid ütlevad, et varem või hiljem on. Kas inimene on suuteline tegema rahumeelset ja heasoovlikku üldotstarbelist tehisaru - kas tehisaru jääb rahumeelseks ja heasoovlikuks ka ennast ähvardava ohu või konkurentsi korral - pole kaugeltki selge. Rääkimata sellest, kas omavahel suudavad rahumeelseid lahendusi leida mitu erinevat piiratud ressursside pärast konkureerivat tehisaru. Aiman, et kui miski on piisavalt paindlik, et lahendada kõiki ülesannete klasse, on ta piisavalt paindlik, et kasutada teatud olukorras kavalust, pettust ning jõudu, teatud oludes aga hüljata põhimõtted ja eetika. Inimestega ju seda juhtub.
Seega on päris küsitav, kas inimnkond peaks tehisaru täiustamisega kiirelt edasi rühkima, kuna vaevalt kõik on innustunud lemmiklooma seisusesse taandumisest või ärritunud hiiglaste mänguplatsil sipelgaks olemisest.
Paraku on sõjal kalduvus väga soodustada tehnoloogia arengut - sest kes mänguga ruttu kaasa ei arene, see kaotab. Ses suhtes on sõda aina negatiivsem nähtus, mida lähemale kõrgtehnoloogiale inimene jõuab. Seda märgati juba massihävitusrelvade leiutamise järel, ja seda märgatakse ka praegu. Kui ühel hetkel sunnib vajadus saavutada sõjaline ülekaal kellelegi peale vajaduse luua superintelligentne ennast täiendav üldotstarbeline tehisaru, siis on see inimkonnale eksistentsiaalne risk. Nii suur, et targem võinuks olla sõda kaotada.
3) Automaatika võimaldab uusi sõjapidamisvõtteid, mis pole kõik õigustatavad
Mõned konventsoonid üritavad tagada, et isegi sõjas kehtiks teataval määral õigus. Vange ei tohi tappa, tsiviilelanikke ei tohi tahtlikult rünnata (rääkimata genotsiidi toime panemisest). Uued sõjapidamisvõtted on tihti aga raskelt sobitatavad õiguse põhimõtetega. Tuumarelvale ei saa alla anda, bioloogiline relv ei tee vahet võitlejal ja rahumeelsel elanikul... ja robot ei karda, et tal kunagi Haagis mälukaart üle kirjutatakse.
* * *
...aga selleni on veel aega. Mitte tingimata sajandit, aga hetkel need pole põletavad päevateemad. Mida teha? No mõnede relvaliikide levikut on püütud piirata konventsioonidega. Kui maailmas taastub olukord, kus on võimalik sõlmida siduvaid rahvusvahelisi konventsioone, võib taas arutelu teemaks tõusta biolrelvade, tuumarelvade ja võib-olla ka teatud tehisaru liikide keelamine üldse, või teatud tehisaru liikide keelamine sõjaliseks tarbeks. Mis tähendab, et nad ei ole potentsiaalse kaugtuleviku sõja esimesed ründevahendid. Samas, ebaeetiline osapool võib keelatud ründevahendi arendada salaja, mistõttu - kui üllatusrünnaku võimalus eksisteerib, ei taha keegi desarmeeruda. Seega peavad kokkulepetega ilmselt kaasnema mingid usaldusmeetmed. Millised, ei kujuta mina ette (tuumarelvade kontrolli lepingute usaldusmeetmeteks oli vastastikune inspekteerimine).
lennumudelist kirjutas: ↑03 Mai, 2024 21:47kui nüüd keegi annab robotite armeele käsu sooritada sõjakuritegusid, siis robotid ei kõhkle, robotid ei mässa, robotid ei küsi küsimusi, ja tulemus võib olla rohkem tsiviilisikutest langenuid. Kui kellelgi on robotite armee, siis ta võib arvata, et suudab pidada sõda rahva nõusolekuta - mis võib olla paganama halb. Rahvast ei peagi aastakümneid propagandaga hullutama, vaid Eesti robotitele võib täna öelda "rünnake Soomet" ja Soome robotitele "tehke Eesti maatasa". Demokraatlik kontroll, mis seisnes võimaluses keelduda või seanahka vedada, oleks säärases tulevikus nõrgem.
Jah, see on minu arvates kõige suurem oht.
Tallinn pidas silmas taktikalist tasandit. Operatiivsel või strateegilisel tasandil võib aga inimene isegi otsustusruumi juurde saada - ja sellelgi on, nagu akf hästi kirjeldas, omad riskid. Aga Tallinn ei rääkinud millestki sellisest. Tema rääkis ikka lihtlabastest vigadest - et lastakse võitleja pähe maha tsiviilisik või visatakse nende varjumiskohale ekslikult pomm. Selliseid vigu teevad igas sõjas ka inimesed. Miks peaks AI või inimene AI abil neid rohkem tegema?
Kogu see hirm robot-AI ees on pehmelt öeldes asjatundmatu. Miks
AI "eelised". Põhiliselt räägime "mustrituvastusest" mitte AIst. AI töötleb seda infot, mida ta saab. Juba praegu on igasugu lendaval kolal põhiprobleem andurid - radarid, kaamerad, raadioside, infrapuna jne. AI ei muuda neid kvalitatiivselt paremaks. Mustrituvastust kasutavad radarid juba 30+ aastat. Mingit fundamentaalset uuendust "AI" ei anna
"Robotid". Nelja rattaga kastiauto lahinguväljal ei ole 100% töökindel. Tank ja soomuk oma roomikutega veel vähem. Mida rohkem sõlmi, seda väiksem töökindlus ja suurem hooldusvajadus. Boston Dynamicsi kahejalgsed on nii keerulised, et nende omahind ja hooldus oleks kosmiline võrreldes klassikaliste soomukite jms. Ja soomustamine.. sorri, robotid oleks ikka terasest ja alumiiniumist mitte adamantiumist ja neutrooniumist.
Kusjuures.. sama kaalu ja energiavajaduse juures on inimene tugevam ja kiirem kui ükskõik milline robot.
Lihase erijõud on ca 30N /cm2. Pneumosilindril on see ca 80N /cm2 aga peenikesel silindril on seinad jms. Hüdraulikal 1000+ aga jällegi, lisanduvad voolikud, silindriseinapaksus jne. Elektrilisel kolal on erijõud väiksem.
Nii et vaadake filme aga ärge unustage et seal on eriefektid
Neid süsteeme, kus inimene ei ole surmava päästiku juures, on tehtud juba aastatuhandeid, alates esimestest lõksudest. Lase ja tulista süsteemid lähevad varem või hiljem AI-ks ära. Lõpuks pole AI-l ka mingit kindlat definitsiooni või tundemärki, et tankitõrjerakett Aivelin 6 on lihtsalt petmiskindel ja isejuhtiv, kuid Aivelin 7 on juba AI ja seega paha-paha. Samas, kujutaks ette, et tagalas öist liikumiskeeldu asulates kehtestavad vahendid või sõjaväebaasi/laagri ümber hulkuvad seadmed võivad piiripeal olla küll. Iga asi, mille masin kahtlaseks peab, kõmmutatakse (sõjaolukorras) siruli.
Niipalju on uudist, et suurte keelemudelite maastikule on pauguga ilmunud avatud lähtekoodiga DeepSeek. Baserub Hiinas. Avaldas just uue versiooni, mis tuleb 20 kuni 50 korda vähema ressursikasutuse juures toime OpenAI o1 tööga. Börsil müüdi NVidia aktsiaid nii et maa must.
Neile, kelle juturobot peab suutma rääkida Taevase Rahu Väljakul toimunust või Taiwani iseseisvusest, on siis võimalus tõmmata lähtekood, koostada ja õpetada keelemudel ise omale sobivate andmete pealt ja sorkida kõiges niipalju kui süda lustib. Tõenäoliselt seda ka õige palju tehakse.
Testisin huvi pärast juturoboteid kohtamissaitidel. 80 % on seal muarust robotid millega raha teenitakse. Pluss veel 15 % Kongo neegrinaisi kes istuvad fake-profiili taga kohvikus ja kellele selle töö eest makstakse 2 dollarit kuus.
Kui seda teema pealkirja vaadata siis inimese asendamiset on nad veel ikka kaugel. Pigem selline tase et kui küsida "kus sa elad ja mida sa praegult aknast näed" vastatakse et "selles hoolimata peame olema positiivsed ja jääma rõõmsameelseks". Omaeti on sellistel suurtel tegijatel piisavalt ressurssi et AI-teemasse panustada. Ei ole veel paanikat tehisinimese asjus.
Puhtfaktiliste teadmiste puhul on vahe et kust nad neid leiavad. Näiteks google ja yandeksi otsimismootorid tekitavad erinevaid teadmisi. Hiinlaste chat on ka selline et kui ta mingit kohalikku otsingut kasutab on Taivan loomulikult Hiina osa.
Minu meelest on AI-ga täpselt samamoodi nagu internetiga 90nendatel. Alguses võeti seda üsna palju kui sellist "lahe, kuid kuidas see kasulik on?" lõpus, kui tuli dot.com mull (kus me oleme praegu) siis olid ideed vägevad, kuid teostus ja tehnika tase polnud täitsa seal. Kes istusid suuresti 56K modemite taga ja enamikus ei saanud asjale eriti pihta, mis see arvutigi üldse on, samal ajal aga üritati müüa lahendusi, mis eeldaks 100MB püsiühendust ja oluliselt teistsugust arusaamist asjadest.
Kuid samas, tänu sellele mullile, sai siiski internet tohutu tõuke ja vormis maailma järgneva kümnendiga totaalselt ümber.
Singulaarsus on siiski lähituleviku küsimus ja sellel on potentsiaali kõik ümber mängida. Arvatavasti jääkski see inimkonna suurimaks leiutiseks läbi ajaloo. Seega selle nimel maksab töötada.
Kui singulaarsuse all nüüd mõeldakse olukorda kus masinad hakkavad ise leiutama uusi masinaid siis oluline on see et kes pääseb ligi energiale. 90-ndatel soovitati samuti igaks juhuks kirvest kirjutuslaua jala najal hoida et vajadusel arvuti kaablid ühe matsuga pooleks lüüa .
Xender kirjutas: ↑01 Veebr, 2025 15:45
...
Singulaarsus on siiski lähituleviku küsimus ja sellel on potentsiaali kõik ümber mängida. Arvatavasti jääkski see inimkonna suurimaks leiutiseks läbi ajaloo. Seega selle nimel maksab töötada.
Mida siin silmas peetakse, ei tea, kuid klassikalises tähenduses on singulaarsus see koht, millest teisele poole ei oska enam ennustada, maailm on nii palju muutunud. Neid singulaarsusi on inimkond päris mitu läbinud. Veel oleme alles. Kui varsti tuleb TI-singulaarsus, eks saame teada, mis siis saab.
.