Ütle oma kassipojale, mida sa enda sees mõtled – musta kasti efekt

Asjaolu, et täiustatud tehisintellekti algoritmid on nagu must kast (1), mis viskab tulemuse minema, paljastamata, kuidas see sündis, valmistab mõnele muret ja teisi häirib.

2015. aastal paluti New Yorgi Mount Sinai haigla uurimisrühmal seda meetodit kasutada ulatusliku kohalike patsientide andmebaasi analüüsimiseks (2). See tohutu kogu sisaldab tohutut teavet patsientide kohta, testitulemusi, retsepte ja palju muud.

Teadlased nimetasid töö käigus välja töötatud analüütilist programmi. See õpetas umbes 700 XNUMX inimese andmeid. inimesel ja uutes registrites testituna on see osutunud haiguste ennustamisel äärmiselt tõhusaks. Ilma inimekspertide abita avastas ta haiglate dokumentidest mustrid, mis näitavad, milline patsient on haiguse, näiteks maksavähi, teel. Ekspertide sõnul oli süsteemi prognostiline ja diagnostiline efektiivsus palju kõrgem kui mõnel muul teadaoleval meetodil.

2. Patsientide andmebaasidel põhinev meditsiiniline tehisintellekti süsteem

Samal ajal märkasid teadlased, et see toimib salapärasel viisil. Selgus näiteks, et sobib ideaalselt vaimsete häirete äratundminenagu skisofreenia, mis on arstidele äärmiselt raske. See oli üllatav, eriti kuna kellelgi polnud aimugi, kuidas AI-süsteem suudab vaimuhaigusi nii hästi näha ainult patsiendi haiguslugude põhjal. Jah, spetsialistid olid sellise tõhusa masinadiagnostiku abiga väga rahul, kuid nad oleksid palju rohkem rahul, kui nad mõistaksid, kuidas tehisintellekt oma järeldustele jõuab.

Kunstlike neuronite kihid

Algusest peale ehk hetkest, mil tehisintellekti mõiste tuntuks sai, oli tehisintellekti suhtes kaks seisukohta. Esimene pakkus välja, et kõige mõistlikum oleks ehitada masinad, mis mõtlevad teadaolevate põhimõtete ja inimliku loogika järgi, muutes nende sisemise töö kõigile läbipaistvaks. Teised uskusid, et intelligentsus tekib kergemini, kui masinad õpivad vaatluse ja korduva katsetamise kaudu.

Viimane tähendab tüüpilise arvutiprogrammeerimise ümberpööramist. Selle asemel, et programmeerija probleemi lahendamiseks käske kirjutaks, genereerib programm oma algoritm näidisandmete ja soovitud tulemuse põhjal. Masinõppemeetodid, mis hiljem arenesid välja võimsaimateks tänapäeval tuntud tehisintellektisüsteemideks, on just läinud seda teed, masin ise programmeerib.

See lähenemisviis jäi 60ndatel ja 70ndatel tehisintellektisüsteemide uurimise marginaalile. Alles eelmise kümnendi alguses, pärast mõningaid teedrajavaid muudatusi ja täiustusi, "Sügavad" närvivõrgud hakkas demonstreerima automatiseeritud taju võimete radikaalset paranemist. 

Sügav masinõpe on andnud arvutitele erakordseid võimeid, nagu suutlikkus ära tunda öeldud sõnu peaaegu sama täpselt kui inimene. See on liiga keeruline oskus, et seda ette programmeerida. Masin peab suutma luua oma "programmi" poolt koolitus tohutute andmekogumite alal.

Süvaõpe on muutnud ka arvutipiltide tuvastamist ja oluliselt parandanud masintõlke kvaliteeti. Tänapäeval kasutatakse seda igasuguste oluliste otsuste tegemiseks meditsiinis, rahanduses, tootmises ja mujal.

Kõige selle juures siiski te ei saa lihtsalt vaadata sügavasse närvivõrku, et näha, kuidas "sees" töötab. Võrguarutlusprotsessid on põimitud tuhandete simuleeritud neuronite käitumisse, mis on organiseeritud kümneteks või isegi sadadeks omavahel keerukalt seotud kihtideks..

Kõik esimese kihi neuronid saavad sisendi, näiteks pildi piksli intensiivsuse, ja sooritavad seejärel arvutused enne väljundi väljastamist. Need edastatakse keerulises võrgus järgmise kihi neuronitele – ja nii edasi kuni lõpliku väljundsignaalini. Lisaks on olemas protsess, mida nimetatakse üksikute neuronite arvutuste kohandamiseks nii, et treeningvõrk annaks soovitud tulemuse.

Koera kujutise tuvastamisega seotud sageli viidatud näites analüüsivad AI madalamad tasemed lihtsaid omadusi, nagu kuju või värv. Kõrgemad tegelevad keerukamate probleemidega, nagu karusnahk või silmad. Ainult ülemine kiht koondab selle kõik kokku, identifitseerides kogu teabe koerana.

Sama lähenemisviisi saab rakendada ka teist tüüpi sisendite puhul, mis võimaldavad masinal end ise õppida: helid, mis moodustavad kõnes sõnu, tähed ja sõnad, mis moodustavad lauseid kirjalikus tekstis, või näiteks rool. sõiduki juhtimiseks vajalikud liigutused.

Auto ei jäta midagi vahele.

Püütakse selgitada, mis sellistes süsteemides täpselt toimub. 2015. aastal muutsid Google'i teadlased süvaõppe pildituvastusalgoritmi nii, et fotodel objektide nägemise asemel genereeris või muutis see neid. Algoritmi tagurpidi käivitades soovisid nad avastada omadusi, mida programm kasutab näiteks linnu või hoone äratundmiseks.

Need katsed, mida avalikult nimetatakse pealkirjaks, andsid hämmastavalt kujutatud (3) groteskse, veidraid loomi, maastikke ja tegelasi. Avaldades mõningaid masintaju saladusi, nagu asjaolu, et teatud mustreid korduvalt tagastatakse ja korratakse, näitasid nad ka seda, kuidas sügav masinõpe erineb inimese tajust – näiteks selles mõttes, et see laiendab ja dubleerib artefakte, mida me ignoreerime. meie tajuprotsessis ilma mõtlemiseta . .

3. Projektis loodud pilt

Muide, teisest küljest on need katsed lahti harutanud meie enda kognitiivsete mehhanismide saladuse. Võib-olla on just meie arusaamade sees, et on mitmesuguseid arusaamatuid komponente, mis panevad meid kohe millestki mõistma ja ignoreerima, samal ajal kui masin kordab kannatlikult oma iteratsioone "ebaolulistel" objektidel.

Masinast "mõistmiseks" viidi läbi ka muid katseid ja uuringuid. Jason Yosinski ta lõi tööriista, mis toimib nagu ajju kinni jäänud sond, mis sihib mis tahes tehisneuronit ja otsib pilti, mis seda kõige tugevamalt aktiveerib. Viimases katses tekkisid võrku „piilumise“ tulemusena abstraktsed pildid, mis muutis süsteemis toimuvad protsessid veelgi salapärasemaks.

Paljude teadlaste jaoks on selline uuring aga arusaamatus, sest nende arvates süsteemi mõistmiseks, keerukate otsuste tegemise kõrgema järgu mustrite ja mehhanismide äratundmiseks, kõik arvutuslikud interaktsioonid sügava närvivõrgu sees. See on matemaatiliste funktsioonide ja muutujate hiiglaslik rägastik. Hetkel on see meile arusaamatu.

Arvuti ei käivitu? Miks?

Miks on oluline mõista arenenud tehisintellektisüsteemide otsustusmehhanisme? Juba praegu kasutatakse matemaatilisi mudeleid, et teha kindlaks, millised kinnipeetavad saab tingimisi vabastada, kellele laenu anda ja kes saavad tööd. Huvilised tahaksid teada, miks selline ja mitte mõni muu otsus tehti, mis on selle põhjused ja mehhanism.

tunnistas ta 2017. aasta aprillis ajakirjas MIT Technology Review. Tommy Yaakkola, MIT-i professor, kes töötab masinõppe rakenduste kallal. -.

On isegi õiguslik ja poliitiline seisukoht, et võime kontrollida ja mõista tehisintellektisüsteemide otsustusmehhanisme on põhiline inimõigus.

Alates 2018. aastast on EL töötanud selle nimel, et nõuda ettevõtetelt oma klientidele selgitusi automatiseeritud süsteemide tehtud otsuste kohta. Selgub, et mõnikord pole see võimalik isegi suhteliselt lihtsana tunduvate süsteemide puhul, nagu rakendused ja veebisaidid, mis kasutavad reklaamide näitamiseks või lugude soovitamiseks sügavat teadust.

Arvutid, mis neid teenuseid käitavad, programmeerivad ennast ja teevad seda viisil, millest me aru ei saa... Isegi neid rakendusi loovad insenerid ei suuda selle toimimist täielikult selgitada.