Robotai su ginklais, branduoliniai smūgiai, mašinų sukilimas – taip dirbtinio intelekto pavojų įsivaizduoja kinas. Mokslininkai, kurie tą pavojų tyrinėja, piešia kitokį paveikslą. Jų nuomone, apokaliptinis scenarijus mažai tikėtinas, o rimčiausia rizika vadinama žodžiu, kurio filmuose nėra: nusilpninimas. Žmonija gali ne žūti, o palaipsniui prarasti gebėjimą mąstyti, spręsti ir valdyti savo gyvenimą, perdavusi tai mašinoms.
Ką sako tyrėjai
Rizikų analizėje, kurią aptaria britų ir ukrainiečių žiniasklaida, DI saugumo specialistai išskiria kelis scenarijus. Tiesioginis sunaikinimas – mažiausiai tikėtinas: nėra nei motyvo, nei realaus mechanizmo, kaip programinė įranga savarankiškai įvykdytų fizinį pasaulio užkariavimą.
Kur kas tikėtinesnis scenarijus – tai, ką mokslininkai vadina „enfeeblement”, nusilpninimu. Žmonės vis daugiau sprendimų patiki sistemoms, kurios rašo, planuoja, diagnozuoja, rekomenduoja ir renkasi už juos. Kiekvienas atskiras sprendimas patogus ir racionalus. Bendras rezultatas – karta, kuri nebemoka to daryti pati, ir visuomenė, kurios esminiai procesai priklauso nuo sistemų, kurių niekas pilnai nesupranta.
Kaip tai atrodo praktiškai
Pavyzdžiai jau egzistuoja. Navigacija: tyrimai rodo, kad žmonės, nuolat naudojantys GPS, prasčiau formuoja erdvinę atmintį ir sunkiau orientuojasi be jo. Atmintis: telefonų numerių nebemoka niekas, nes nereikia. Rašymas: dalis mokyklų fiksuoja, kad mokiniai, naudojantys DI rašymo įrankius, prasčiau formuluoja mintis be jų.
Kiekvienas iš šių pavyzdžių atskirai – smulkmena. Visi kartu – ta kryptis, apie kurią kalba tyrėjai: ne staigus katastrofiškas įvykis, o lėtas gebėjimų perdavimas, kurio pabaigoje žmogus nebegali sistemos nei patikrinti, nei pakeisti, nei apsieiti be jos.
Kodėl tai sunkiau nei robotų sukilimas
Nuo robotų galima apsiginti – išjungti, uždrausti, reguliuoti. Nuo patogumo apsiginti sunkiau, nes niekas jo nenori atsisakyti. Nusilpninimo scenarijuje nėra piktavalio – tik milijonai žmonių, kurie kasdien pasirenka greitesnį kelią.
Antra problema – nematomumas. Žmonija nepastebėtų momento, kai perėjo ribą: kai gydytojas nebegali diagnozuoti be sistemos, kai inžinierius nebegali patikrinti skaičiavimų, kai valstybės institucijos priima sprendimus, kuriuos siūlo algoritmas, nes niekas nebeturi laiko ar kompetencijos jų ginčyti.
Ką siūlo mokslininkai
Rekomendacijos nėra apie draudimus. Jos apie įgūdžių išsaugojimą: mokyklose – mokyti mąstyti, skaičiuoti ir rašyti be įrankių, prieš leidžiant juos naudoti; profesijose – reikalauti, kad specialistas gebėtų patikrinti sistemos atsakymą; valstybėse – neleisti, kad kritiniai sprendimai būtų priimami be žmogaus, kuris supranta, kodėl.
Palyginimas, kurį mėgsta tyrėjai: skaičiuotuvas neatėmė iš žmonių matematikos, nes mokyklos toliau mokė skaičiuoti rankomis, o skaičiuotuvą leido vėliau. DI yra skaičiuotuvas viskam – ir klausimas, ar visuomenė sugebės padaryti tą patį su mąstymu.
Tyrėjai mini ir trečią riziką, tarp katastrofos ir nusilpninimo: galios koncentraciją. Jei galingiausios sistemos priklauso kelioms įmonėms ar valstybėms, likusieji tampa priklausomi ne nuo mašinų, o nuo jų savininkų. Tai ne mokslinė fantastika, o jau vykstantis procesas, ir jis susijęs su nusilpninimu tiesiogiai: visuomenė, kuri nebemoka ko nors daryti pati, neturi derybinės galios su tais, kurie moka.
Yra ir optimistinė pusė, kurią tie patys tyrėjai pabrėžia: nusilpninimas, skirtingai nei katastrofa, yra grįžtamas ir valdomas. Kiekviena karta gali nuspręsti, ko mokyti vaikus ir ko reikalauti iš specialistų. Skaičiuotuvo pavyzdys rodo, kad tai įmanoma. Klausimas tik, ar sprendimas bus priimtas sąmoningai, ar už jį nuspręs patogumas.
Vienas iš tyrėjų siūlomų testų kiekvienam: pabandykite dieną padaryti be įrankio tai, ką paprastai darote su juo – nuvažiuoti be navigacijos, suskaičiuoti be skaičiuotuvo, parašyti laišką be pasiūlymų. Jei tai pasirodė sunku, tai ne pasaulio pabaiga, bet signalas, kurį verta pastebėti. Nusilpninimas prasideda ne nuo mašinų, o nuo įpročio neklausti, ar dar moku pats.
Mokyklai tai reiškia dar vieną dalyką: vertinti reikia ne tik rezultatą, bet ir procesą. Rašinys, parašytas klasėje ranka, ir rašinys, atsiųstas iš namų, šiandien yra du skirtingi įrodymai, ir mokytojai visame pasaulyje grįžta prie pirmojo ne iš nostalgijos, o iš būtinybės.
Diskusija nėra tik teorinė – ji formuoja Europos Sąjungos DI reglamentą ir švietimo politiką keliose šalyse, kur jau svarstoma, kurie įgūdžiai turi būti patikrinti be įrankių.
Ką tai reiškia tėvams ir mokytojams
Mokykla yra ta vieta, kur nusilpninimo scenarijus arba prasideda, arba sustabdomas. Vaikas, kuris rašinį sugeneruoja per minutę, gauna pažymį, bet negauna įgūdžio. Mokytojai visame pasaulyje ieško balanso: leisti naudoti įrankius, bet reikalauti, kad mokinys gebėtų padaryti tą patį be jų.
Lietuvoje diskusija tik prasideda, bet patirtis iš kitų šalių jau rodo kryptį: ne drausti, o pirma išmokyti. Nes grėsmė, apie kurią kalba mokslininkai, nėra tai, kad mašinos taps per protingos. Grėsmė ta, kad žmonės nustos stengtis jomis būti.
Nuotrauka: Leonardo.ai / Leonardo Kino XL / Wikipedia logo by Nohat (concept by Paullusmagnus); Wikimedia., Public domain, Wikimedia Commons
