Danas vidimo procvat razvoja informacijske tehnologije i njihovo postupno, a ponekad i revolucionarno uvođenje u naše živote

Digitalizacija, robotizacija, umjetna inteligencija, umjetne neuronske mreže... Koliko novih koncepata i termina već pomiče horizonte mogućeg, tjera nas da ih promišljamo i razumijemo, tražimo njihovu primijenjenu, učinkovitu i sigurnu primjenu. Pa ipak, koliko god nove tehnologije bile obećavajuće, sve su one proizvodi ljudskog života, njegovog uma, rada mozga i razmišljanja.

Što je neuron?

Prosječan ljudski mozak sastoji se od oko 86 milijardi neurona povezanih brojnim vezama (u prosjeku nekoliko tisuća veza po neuronu, ali taj broj može jako varirati). Neuroni su posebne stanice sposobne širiti elektrokemijske signale. Neuron ima razgranatu informacijsku ulaznu strukturu (dendriti), jezgru i granajući izlaz (akson). Aksoni stanice povezani su s dendritima drugih stanica putem sinapsi. Kada se aktivira, neuron šalje elektrokemijski signal niz svoj akson. Preko sinapsi ovaj signal dopire do drugih neurona, koji se zauzvrat mogu aktivirati. Neuron se aktivira kada ukupna razina signala koji su iz dendrita došli u njegovu jezgru prijeđe određenu razinu (prag aktivacije).

Neuronske mreže

Umjetne neuronske mreže, umjetna inteligencija, strojno učenje… Što znače svi ti trendovi i pojmovi danas?

U općem smislu riječi, neuronske mreže (NN - Neural Networks) su matematički modeli koji rade na principu mreža nervne ćeliježivotinjski organizam. Umjetne mreže (ANN) mogu se implementirati iu programabilnim i u hardverskim rješenjima. Radi lakše percepcije, neuron se može predstaviti kao neka vrsta stanice koja ima mnogo ulaza i jedan izlaz. Kako se brojni dolazni signali formiraju u odlazni signal određuje algoritam izračuna. Svaki ulaz neurona snabdjeven je operativnim vrijednostima, koje se zatim distribuiraju duž interneuronskih veza (sinopsisa). Sinapse imaju jedan parametar - težinu, zbog koje se ulazne informacije mijenjaju kada se kreću od jednog neurona do drugog.

vremenski trend

U posljednjih nekoliko godina došlo je do eksplozije interesa za ANN-ove. Istraživači - programeri i razvijači hardverskih modela - stvaraju uvijek nove učinkovite kreativne softverske i hardverske implementacije, izgrađene na principu organizacije i funkcioniranja bioloških neuronskih mreža. Neuronske mreže su atraktivne s intuitivnog gledišta jer se temelje na biološkom modelu živčanog sustava. U budućnosti, razvoj takvih neurobioloških modela mogao bi dovesti do stvaranja stvarno mislećih računala. A da biste stvorili umjetnu inteligenciju, trebate izgraditi sustav sa sličnom arhitekturom.

Gdje se primjenjuju

ANN zbog sposobnosti učenja, kao i zbog činjenice da je to zbog izgleda razne načine ubrzavajući njihovo učenje uspješno se koriste u raznim područjima našeg života: poslovanju, medicini, tehnologiji, geologiji, fizici itd. ANN, kao iznimno moćna metoda modeliranja koja omogućuje reprodukciju iznimno složenih ovisnosti, nalazi sve brojniju primjenu: stvaranje procesa proizvodnje samoučećih sustava, bespilotnih vozila, sustava za prepoznavanje slike, inteligentnih sigurnosnih sustava, robotike, sustava praćenja kvalitete, sučelja glasovne interakcije, analitičkih sustava i izuma u mnogim drugim područjima gdje je potrebno riješiti probleme obrade nagomilanih ogroman protok informacija - prepoznavanje, predviđanje, klasifikacija, kontrola . Trenutačno je proces učenja ANN-a postao mnogo brži i lakši: mogućnosti su postale moćnije tehnička sredstva(tehnološki rast kapaciteta memorije, brzine; stalno gomilanje baza podataka itd.). Počele su se aktivno razvijati takozvane "unaprijed obučene" neuronske mreže, što može značajno ubrzati proces implementacije tehnologije.

Neki plusevi

Impresivni uspjeh i interes za ANN-ove određen je sposobnošću da se nosi sa zadacima kao što su sustavi za prepoznavanje i klasificiranje objekata na slikama i krajolicima u području istraživanja, sučelje glasovne interakcije za Internet stvari, video analitika, sustavi za samoučenje koji optimiziraju upravljanje tokovima materijala ili lokaciju objekata; intelektualac; sustavi upravljanja koji se sami uče za proizvodne procese i uređaje (uključujući robotske), univerzalni on-the-fly prijevod za konferencije i osobnu upotrebu, itd. I ako je prerano reći hoće li neuronske mreže ikada moći u potpunosti reproducirati mogućnosti ljudskog mozga, vjerojatnost Činjenica da će u sljedećem desetljeću ANN-ovi moći zamijeniti osobu u četvrtini postojećih profesija postaje sve sličnija istini.

Umjetna inteligencija

Što je umjetna inteligencija? Pod umjetnom inteligencijom (AI) programeri razumiju sposobnost stroja da oponaša pametno ponašanje ljudi, odnosno sposobnost snalaženja u promjenjivom kontekstu i, uzimajući u obzir te promjene, donosi optimalne odluke koje omogućuju postizanje cilja. Liječniku može biti teško ispravno dijagnosticirati bolest, pogotovo ako nema puno prakse ili je konkretan slučaj daleko od njegovog profesionalnog iskustva. Ovdje AI može priskočiti u pomoć, imajući pristup bazama podataka s tisućama i milijunima povijesti bolesti (i drugim naručenim informacijama, uključujući nedavne članke, udžbenike, specijaliziranu medicinsku literaturu). Uz pomoć algoritama strojnog učenja, AI klasificira određeni slučaj, brzo skenira znanstvenu literaturu na tu temu koja je objavljena u određenom vremenskom razdoblju, proučava slične dostupne slučajeve i predlaže plan liječenja. Štoviše, AI će moći pružiti individualizirani pristup, uzimajući u obzir informacije o genetske osobine pacijent, obrasci kretanja prikupljeni njegovim nosivim uređajima, prethodna medicinska povijest - cjelokupna životna povijest. AI vjerojatno (barem u sadašnjem stupnju razvoja tehnologije) neće zamijeniti liječnika, ali može postati i već postaje koristan alat, pomoćnik u dijagnostici i liječenju.

Zašto je to potrebno u medicini

Medicina, prethodno usmjerena uglavnom na liječenje akutne bolesti, sada će više pažnje moći posvetiti kroničnim bolestima od kojih se mnoge ne tako davno nisu smatrale bolestima. Već danas količina medicinskih podataka naglo raste, postaje jasno da brzina i kvaliteta analize određuju zdravlje i kvalitetu života pacijenta. Liječnici se često suočavaju s potrebom liječenja pretilosti, depresije, bolesti starijih osoba. Dijabetes, zatajenje srca, autoimuni poremećaji sve se više dijagnosticiraju izvan faze egzacerbacije, u najranijim stadijima, a ne govorimo samo o terapiji održavanja, već io mogućnosti potpunog izlječenja i ispravljanja ovih sistemskih poremećaja organizma. Razvija se preventivna medicina koja omogućuje prepoznavanje sklonosti određenim vrstama bolesti i prije njihove manifestacije, te nužnu važnost poduzimanja pravovremenih mjera. I sve je to posao za AI.

Prognoza za stomatologiju

Istraživači ANN-a predviđaju da će se uporaba neuronskih mreža u stomatologiji također brzo razvijati u bliskoj budućnosti. Ovaj će smjer omogućiti bržu analizu velike količine potrebnih stručnih ciljanih informacija, a što je najvažnije, moći će usmjeravati i davati savjete liječnicima u rješavanju složenih kliničkih problema.

Materijal je pripremljen prema podacima
Internetski izvori Galina Masis

Dobar dan, moje ime je Natalia Efremova i ja sam znanstvenica u NtechLabu. Danas ću govoriti o vrstama neuronskih mreža i njihovoj primjeni.

Prvo, dopustite mi da kažem nekoliko riječi o našoj tvrtki. Tvrtka je nova, možda mnogi od vas ne znaju čime se bavimo. Prošle smo godine pobijedili na MegaFace izazovu. Ovo je međunarodno natjecanje u prepoznavanju lica. Iste godine otvara se i naša tvrtka, odnosno na tržištu smo oko godinu dana, čak i nešto više. Sukladno tome, jedna smo od vodećih tvrtki u prepoznavanju lica i biometrijskoj obradi slika.

Prvi dio mog izvješća bit će usmjeren onima koji nisu upoznati s neuronskim mrežama. Izravno sam uključen u duboko učenje. Na ovom području radim više od 10 godina. Iako se pojavila prije nešto manje od desetljeća, nekada su postojali neki rudimenti neuronskih mreža koji su izgledali kao sustav dubokog učenja.

U posljednjih 10 godina duboko učenje i računalni vid razvijao nevjerojatnom brzinom. Sve što je značajno učinjeno na ovim prostorima dogodilo se u zadnjih 6 godina.

Govorit ću o praktičnim aspektima: gdje, kada, što primijeniti u smislu dubokog učenja za obradu slika i videa, za prepoznavanje slika i lica, budući da radim za tvrtku koja se time bavi. Govorit ću malo o prepoznavanju emocija, koji se pristupi koriste u igrama i robotici. Govorit ću i o nestandardnoj primjeni dubokog učenja, nečemu što tek izlazi iz znanstvenih institucija i još uvijek se malo koristi u praksi, kako se može primijeniti i zašto je teško primjenjivo.

Izvještaj će se sastojati iz dva dijela. Budući da je većina ljudi upoznata s neuronskim mrežama, prvo ću nakratko objasniti kako funkcioniraju neuronske mreže, što su biološke neuronske mreže, zašto nam je važno znati kako funkcioniraju, što su umjetne neuronske mreže i koje se arhitekture koriste u područja.

Ispričavam se odmah, skočit ću malo na englesku terminologiju, jer većinu ni ne znam kako se to zove na ruskom. Možda i vi.

Dakle, prvi dio izvješća bit će posvećen konvolucijskim neuronskim mrežama. Objasnit ću kako radi prepoznavanje slika pomoću konvolucijske neuronske mreže (CNN) koristeći primjer prepoznavanja lica. Govorit ću malo o rekurentnim neuronskim mrežama (RNN) i učenju s pojačanjem na primjeru sustava dubokog učenja.

Kao nestandardnu ​​primjenu neuronskih mreža, govorit ću o tome kako CNN radi u medicini za prepoznavanje voxel slike, kako se neuronske mreže koriste za prepoznavanje siromaštva u Africi.

Što su neuronske mreže

Začudo, biološke neuronske mreže poslužile su kao prototip za stvaranje neuronskih mreža. Možda mnogi od vas znaju kako programirati neuronsku mrežu, ali mislim da neki ne znaju odakle je došla. Dvije trećine svih osjetilnih informacija koje dolaze do nas dolaze iz vizualnih organa percepcije. Više od jedne trećine površine našeg mozga zauzimaju dva najvažnija vidna područja - dorzalni vidni put i ventralni vidni put.

Dorzalni vidni put počinje u primarnoj vidnoj zoni, u našem tjemenu glave, i nastavlja se prema gore, dok ventralni put počinje na stražnjoj strani glave i završava otprilike iza naših ušiju. Svo važno prepoznavanje uzoraka koje imamo, sva značenja kojih smo svjesni, odvijaju se upravo tu, iza ušiju.

Zašto je to važno? Budući da je često potrebno razumjeti neuronske mreže. Prvo, svi pričaju o tome, a ja sam se već navikao da se to događa, a drugo, činjenica je da su sva područja koja se koriste u neuronskim mrežama za prepoznavanje uzoraka došla do nas upravo iz ventralnog vizualnog puta, gdje svaki mali zona je odgovorna za svoju strogo definiranu funkciju.

Slika nam dolazi iz mrežnice, prolazi kroz niz vidnih zona i završava u temporalnoj zoni.

Dalekih 60-ih godina prošlog stoljeća, kada je proučavanje vizualnih područja mozga tek započelo, prvi pokusi provedeni su na životinjama, jer nije bilo fMRI-a. Mozak je ispitan pomoću elektroda ugrađenih u različite vizualne zone.

Prvu vizualnu zonu istražili su David Hubel i Thorsten Wiesel 1962. godine. Radili su pokuse na mačkama. Mačkama su pokazivani razni pokretni objekti. Ono na što su moždane stanice reagirale bio je podražaj koji je životinja prepoznala. Čak se i sada mnogi eksperimenti provode na te drakonske načine. Međutim, ovo je najviše učinkovita metoda saznajte što svaka sićušna stanica u našem mozgu radi.

Na isti su način otkrivena mnoga važnija svojstva vizualnih zona koje sada koristimo u dubokom učenju. Jedno od najvažnijih svojstava je povećanje receptivnih polja naših stanica kako se krećemo od primarnih vidnih područja prema temporalnim režnjevima, odnosno kasnijim vidnim područjima. Receptivno polje je onaj dio slike koji obrađuje svaka stanica u našem mozgu. Svaka stanica ima svoje receptivno polje. To isto svojstvo sačuvano je u neuronskim mrežama, kao što vjerojatno svi znate.

Također, povećanjem receptivnih polja povećavaju se i složeni podražaji koje neuronske mreže obično prepoznaju.

Ovdje vidite primjere složenosti podražaja, razne dvodimenzionalne oblike koji se prepoznaju u područjima V2, V4 i razne dijelove temporalna polja u makakija. Također se provodi niz MRI eksperimenata.

Ovdje možete vidjeti kako se provode takvi eksperimenti. Ovo je 1 nanometarski dio IT korteksa "a zone majmuna pri prepoznavanju raznih objekata. Istaknuto gdje se prepoznaje.

Rezimirajmo. Važno svojstvo koje želimo usvojiti od vizualnih područja je da se povećavaju veličine receptivnih polja i povećava kompleksnost objekata koje prepoznajemo.

računalni vid

Prije nego što smo naučili kako to primijeniti na računalni vid - općenito, kao takav, nije postojao. U svakom slučaju, nije išlo tako dobro kao sada.

Sva ta svojstva prenosimo na neuronsku mrežu i sada radi, ako ne uključite malu digresiju na skupove podataka, o čemu ću kasnije govoriti.

Ali prvo, malo o najjednostavnijem perceptronu. Također se formira na sliku i priliku našeg mozga. Najjednostavniji element koji podsjeća na moždanu stanicu je neuron. Ima elemente unosa koji su prema zadanim postavkama usmjereni slijeva nadesno, povremeno odozdo prema gore. Lijevo su ulazni dijelovi neurona, desno izlazni dijelovi neurona.

Najjednostavniji perceptron sposoban je izvoditi samo najosnovnije operacije. Za izvođenje složenijih izračuna potrebna nam je struktura sa velika količina skrivenih slojeva.

U slučaju računalnog vida trebamo još više skrivenih slojeva. I tek tada će sustav smisleno prepoznati ono što vidi.

Dakle, što se događa pri prepoznavanju slike, reći ću vam na primjeru lica.

Za nas je vrlo jednostavno pogledati ovu sliku i reći da prikazuje lice kipa. Međutim, do 2010. to je bio nevjerojatno težak zadatak za računalni vid. Oni koji su se do sada bavili ovom problematikom vjerojatno znaju koliko je bilo teško bez riječi opisati predmet koji želimo pronaći na slici.

Morali smo to učiniti na neki geometrijski način, opisati objekt, opisati odnos objekta, kako se ti dijelovi mogu međusobno povezati, zatim pronaći tu sliku na objektu, usporediti ih i dobiti ono što smo loše prepoznali. Obično je to bilo malo bolje od bacanja novčića. Nešto bolje od razine šanse.

Sada to nije slučaj. Svoju sliku dijelimo ili na piksele ili na neke zakrpe: 2x2, 3x3, 5x5, 11x11 piksela - kako je zgodno kreatorima sustava u kojem oni služe kao ulazni sloj neuronske mreže.

Signali iz ovih ulaznih slojeva prenose se od sloja do sloja pomoću sinapsi, a svaki od slojeva ima svoje specifične koeficijente. Tako prelazimo od sloja do sloja, od sloja do sloja, dok ne dobijemo da smo prepoznali lice.

Konvencionalno se svi ovi dijelovi mogu podijeliti u tri klase, označit ćemo ih kao X, W i Y, gdje je X naša ulazna slika, Y je skup oznaka, a mi trebamo dobiti svoje težine. Kako izračunavamo W?

S obzirom na naše X i Y, ovo se čini lakim. Međutim, ono što je označeno zvjezdicom je vrlo složena nelinearna operacija, koja, nažalost, nema inverziju. Čak i sa 2 zadane komponente jednadžbe, vrlo ju je teško izračunati. Dakle, potrebno je postupno, pokušajima i pogreškama, odabirom težine W nastojati da se pogreška što više smanji, poželjno je da bude jednaka nuli.

Taj se proces odvija iterativno, stalno smanjujemo dok ne nađemo vrijednost težine W koja nas dovoljno zadovoljava.

Usput, niti jedna neuronska mreža s kojom sam radio nije postigla grešku jednaku nuli, ali je radila prilično dobro.

Ovo je prva mreža koja je pobijedila na međunarodnom natjecanju ImageNet 2012. Ovo je takozvani AlexNet. To je mreža koja je prva najavila da postoje konvolucijske neuronske mreže i od tada u svim međunarodnim natjecanjima konvolucijske neuronske mreže nikada nisu izgubile svoje pozicije.

Unatoč činjenici da je ova mreža prilično mala (ima samo 7 skrivenih slojeva), ona sadrži 650.000 neurona sa 60 milijuna parametara. Kako bismo iterativno naučili kako pronaći prave težine, potrebno nam je puno primjera.

Neuronska mreža uči na primjeru slike i etikete. Kako nas u djetinjstvu uče "ovo je mačka, a ovo je pas", neuronske mreže također se treniraju na u velikom broju Slike. Ali činjenica je da prije 2010. nije postojao dovoljno velik skup podataka koji bi mogao naučiti toliko parametara za prepoznavanje slika.

Najveće baze podataka koje su postojale do tada bile su PASCAL VOC, koja je imala samo 20 kategorija objekata, i Caltech 101, koja je razvijena na Kalifornijskom institutu za tehnologiju. Zadnji je imao 101 kategoriju i to je bilo puno. Oni koji svoje predmete nisu mogli naći ni u jednoj od tih baza morali su koštati svoje baze, što je, reći ću, užasno bolno.

No, 2010. godine pojavila se baza podataka ImageNet u kojoj je bilo 15 milijuna slika, podijeljenih u 22.000 kategorija. Ovo je riješilo naš problem treniranja neuronske mreže. Sada svi koji imaju bilo kakvu akademsku adresu mogu jednostavno otići na stranicu baze, zatražiti pristup i dobiti ovu bazu za treniranje svojih neuronskih mreža. Reaguju prilično brzo, po mom mišljenju, sljedeći dan.

U usporedbi s prethodnim skupovima podataka, ovo je vrlo velika baza podataka.

Primjer pokazuje koliko je beznačajno sve što je bilo prije. Istovremeno s ImageNet bazom pojavilo se i ImageNet natjecanje, međunarodni izazov u kojem mogu sudjelovati svi timovi koji se žele natjecati.

Ove godine pobijedila je mreža stvorena u Kini, imala je 269 slojeva. Ne znam koliko parametara, sumnjam da ih je previše.

Arhitektura duboke neuronske mreže

Konvencionalno se može podijeliti na 2 dijela: one koji uče i one koji ne uče.

Crno označava one dijelove koji ne uče, svi ostali slojevi mogu učiti. Postoje mnoge definicije onoga što se nalazi unutar svakog konvolucijskog sloja. Jedna od prihvaćenih oznaka je da se jedan sloj s tri komponente dijeli na stupanj konvolucije, stupanj detektora i stupanj udruživanja.

Neću ulaziti u detalje, bit će još mnogo izvješća koja će detaljno opisati kako ovo funkcionira. Reći ću vam na primjeru.

Budući da su me organizatori zamolili da ne spominjem mnoge formule, potpuno sam ih izbacio.

Dakle, ulazna slika pada u mrežu slojeva, koje možemo nazvati filtrima različitih veličina i različite složenosti elemenata koje prepoznaju. Ovi filtri sačinjavaju vlastiti indeks ili skup značajki, koji zatim ulazi u klasifikator. Obično je to ili SVM ili MLP - višeslojni perceptron, koji je pogodan za svakoga.

Na slici i sličnosti s biološkom neuronskom mrežom prepoznaju se objekti različite složenosti. Kako se broj slojeva povećavao, sve je to izgubilo kontakt s korteksom, budući da postoji ograničen broj zona u neuronskoj mreži. 269 ​​​​ili mnogo, mnogo zona apstrakcije, tako da se štedi samo povećanje složenosti, broja elemenata i receptivnih polja.

Ako pogledamo primjer prepoznavanja lica, tada će naše receptivno polje prvog sloja biti malo, zatim malo više, više i tako sve dok na kraju ne možemo prepoznati cijelo lice.

Što se tiče onoga što imamo unutar filtera, prvo će biti nagnuti štapići plus malo boje, zatim dijelovi lica, a zatim će cijelo lice biti prepoznato po svakoj ćeliji sloja.

Ima ljudi koji tvrde da čovjek uvijek bolje prepoznaje od mreže. Je li tako?

Znanstvenici su 2014. godine odlučili testirati koliko dobro prepoznajemo u usporedbi s neuronskim mrežama. Uzeli su 2 najbolja ovaj trenutak mreže su AlexNet i mreža Matthewa Zillera i Fergusa, te u usporedbi s odzivom različite zone mozak makakija, koji je također naučen prepoznavati neke predmete. Predmeti su bili iz životinjskog svijeta kako se majmun ne bi zbunio, a rađeni su pokusi tko će bolje prepoznati.

Budući da je očito nemoguće dobiti odgovor od majmuna, u njega su ugrađene elektrode i direktno je mjeren odgovor svakog neurona.

Ispostavilo se da u normalnim uvjetima moždane stanice reagirale su jednako dobro kao i tadašnji najsuvremeniji model, odnosno mreža Matthewa Zillera.

Međutim, s povećanjem brzine prikazivanja objekata, povećanjem broja šumova i objekata na slici, brzina prepoznavanja i njegova kvaliteta u našem mozgu i mozgu primata naglo pada. Čak i najjednostavnija konvolucijska neuronska mreža bolje prepoznaje objekte. Odnosno, službeno, neuronske mreže rade bolje od našeg mozga.

Klasični problemi konvolucijskih neuronskih mreža

Zapravo ih nema toliko, pripadaju trima klasama. Među njima su zadaci kao što su identifikacija objekata, semantička segmentacija, prepoznavanje lica, prepoznavanje dijelova ljudskog tijela, otkrivanje semantičkih granica, odabir objekata pažnje na slici i odabir normala na površinu. Uvjetno se mogu podijeliti u 3 razine: od zadataka najniže razine do zadataka najviše razine.

Koristeći ovu sliku kao primjer, pogledajmo što radi svaki od zadataka.

• Definicija granica- ovo je zadatak najniže razine za koji se već klasično koriste konvolucijske neuronske mreže.
• Definicija vektora na normalu omogućuje rekonstrukciju 3D slike iz 2D.
• Istaknutost, definicija objekata pažnje- to je ono na što bi čovjek obratio pažnju kada razmatra ovu sliku.
• Semantička segmentacija omogućuje vam da podijelite objekte u klase prema njihovoj strukturi, a da ne znate ništa o tim objektima, odnosno čak i prije nego što su prepoznati.
• Označavanje semantičke granice- ovo je izbor granica, podijeljenih u klase.
• Izolacija dijelova ljudskog tijela.
• I zadatak najviše razine - prepoznavanje samih predmeta, što ćemo sada razmotriti na primjeru prepoznavanja lica.

Prepoznavanje lica

Prvo što radimo je proći detektorom lica preko slike kako bismo pronašli lice. Zatim normaliziramo, centriramo lice i pokrećemo ga na obradu u neuronskoj mreži. Nakon toga dobivamo skup ili vektor značajki koje jedinstveno opisuje crte ovog lica.

Tada možemo usporediti ovaj vektor obilježja sa svim vektorima obilježja koji su pohranjeni u našoj bazi podataka i dobiti referencu na određenu osobu, na njegovo ime, na njegov profil - sve što možemo pohraniti u bazu podataka.

Ovako funkcionira naš proizvod FindFace - to je besplatna usluga koja vam pomaže u potrazi za profilima ljudi u bazi podataka VKontakte.

Osim toga, imamo API za tvrtke koje žele isprobati naše proizvode. Pružamo usluge detekcije lica, verifikacije i identifikacije korisnika.

Sada smo razvili 2 scenarija. Prvi je identifikacija, traženje osobe u bazi podataka. Drugi je verifikacija, to je usporedba dviju slika s određenom vjerojatnošću da se radi o istoj osobi. Osim toga, trenutno razvijamo prepoznavanje emocija, prepoznavanje video slike i detekciju živosti - to je razumijevanje je li osoba živa ispred kamere ili fotografije.

Malo statistike. Kod identifikacije, kod pretraživanja 10 tisuća fotografija, imamo točnost oko 95% ovisno o kvaliteti baze podataka, 99% točnost provjere. A osim toga, ovaj algoritam je vrlo otporan na promjene - ne moramo gledati u kameru, možda nam neki predmeti blokiraju: naočale, sunčane naočale, brada, medicinska maska. U nekim slučajevima čak možemo prevladati i takve nevjerojatne poteškoće za računalni vid kao što su naočale i maska.

Vrlo brzo pretraživanje, potrebno je 0,5 sekundi za obradu 1 milijarde fotografija. Razvili smo jedinstveni indeks brzog pretraživanja. Također možemo raditi sa slikama niske kvalitete s CCTV kamera. Sve to možemo obraditi u stvarnom vremenu. Fotografije možete uploadati preko web sučelja, preko Androida, iOS-a i pretraživati ​​100 milijuna korisnika i njihovih 250 milijuna fotografija.

Kao što rekoh, zauzeli smo prvo mjesto na natjecanju MegaFace - analog za ImageNet, ali za prepoznavanje lica. Traje već nekoliko godina, prošle godine smo bili najbolji među 100 timova iz cijelog svijeta, uključujući i Google.

Rekurentne neuronske mreže

Rekurentne neuronske mreže koristimo kada nam nije dovoljno prepoznati samo sliku. U slučajevima kada nam je važno pratiti slijed, potreban nam je redoslijed onoga što se s nama događa, koristimo obične rekurentne neuronske mreže.

Primjenjuje se na prepoznavanje prirodnog jezika, obradu videa, čak i prepoznavanje slika.

Neću govoriti o prepoznavanju prirodnog jezika – nakon mog izvještaja bit će još dva koja će biti usmjerena na prepoznavanje prirodnog jezika. Stoga ću o radu rekurentnih mreža govoriti na primjeru prepoznavanja emocija.

Što su rekurentne neuronske mreže? To je otprilike isto kao i obične neuronske mreže, ali s povratnom spregom. Potrebna nam je povratna informacija za prijenos prethodnog stanja sustava na ulaz neuronske mreže ili na jedan od njezinih slojeva.

Pretpostavimo da obrađujemo emocije. Čak iu osmijehu – jednoj od najjednostavnijih emocija – postoji nekoliko trenutaka, od neutralnog izraza lica do trenutka kada imamo puni osmijeh. Slijede jedan za drugim u nizu. Da bismo ovo dobro razumjeli, moramo moći promatrati kako se to događa, prenijeti ono što je bilo na prethodnom okviru na sljedeći korak sustava.

Godine 2005., na natjecanju Emotion Recognition in the Wild posebno za prepoznavanje emocija, tim iz Montreala predstavio je rekurentni sustav koji je izgledao vrlo jednostavno. Imala je samo nekoliko konvolucijskih slojeva, a radila je isključivo s videom. Ove godine dodali su i audio prepoznavanje i agregirane podatke okvir po okvir koji se dobivaju iz konvolucijskih neuronskih mreža, podatke audio signala s rekurentnim radom neuronske mreže (stateful) i osvojili prvo mjesto na natjecanju.

Učenje s potkrepljenjem

Sljedeća vrsta neuronskih mreža, koja se nedavno vrlo često koristi, ali nije dobila tako širok publicitet kao prethodna 2 tipa, je duboko učenje, učenje s pojačanjem.

Činjenica je da u prethodna dva slučaja koristimo baze podataka. Imamo ili podatke s lica, ili podatke sa slika, ili podatke s emocijama iz videa. Ako ga nemamo, ako ga ne možemo snimiti, kako možemo naučiti robota da podiže predmete? To radimo automatski - ne znamo kako funkcionira. Još jedan primjer: sastavljanje velikih baza podataka u računalnim igrama je teško i nije potrebno, može se učiniti mnogo lakše.

Svatko je vjerojatno čuo za uspjeh dubinskog učenja s pojačanjem u Atari i Go.

Tko je čuo za Atari? Pa netko je čuo, dobro. Mislim da su svi čuli za AlphaGo, pa vam neću ni govoriti što se tamo točno događa.

Što se događa u Atariju? Arhitektura ove neuronske mreže prikazana je samo lijevo. Uči igrajući se sama sa sobom kako bi dobila maksimalnu nagradu. Najveća nagrada je najbrži ishod igre s najvećim mogućim rezultatom.

Gore desno - posljednji sloj neuronske mreže, koji prikazuje cijeli broj stanja sustava, koji je igrao sam protiv sebe samo dva sata. Crveno prikazuje željene ishode igre s maksimalnom nagradom, a plavo - nepoželjne. Mreža gradi određeno polje i kreće se kroz svoje uvježbane slojeve do stanja koje želi postići.

U robotici je situacija malo drugačija. Zašto? Ovdje imamo nekoliko komplikacija. Prvo, nemamo mnogo baza podataka. Drugo, moramo koordinirati tri sustava odjednom: percepciju robota, njegove radnje uz pomoć manipulatora i njegovu memoriju - što je učinjeno u prethodnom koraku i kako je učinjeno. Općenito, sve je to vrlo teško.

Činjenica je da se niti jedna neuronska mreža, čak ni duboko učenje u ovom trenutku, ne može dovoljno učinkovito nositi s ovim zadatkom, tako da je duboko učenje samo dio onoga što roboti trebaju raditi. Na primjer, Sergey Levin nedavno je ponudio sustav koji uči robota da hvata predmete.

Evo eksperimenata koje je proveo na svojih 14 robotskih ruku.

Što se ovdje događa? U ovim posudama koje vidite ispred sebe nalaze se razni predmeti: olovke, gumice, manje i veće šalice, krpe, različite teksture, različite tvrdoće. Nije jasno kako istrenirati robota da ih uhvati. Satima, pa čak i tjednima, roboti trenirani da mogu uhvatiti te objekte, ovom su se prilikom sastavljale baze podataka.

Baze podataka su svojevrsni odgovor okoline koji trebamo akumulirati kako bismo mogli istrenirati robota da nešto radi u budućnosti. U budućnosti će se roboti obučavati na ovom skupu stanja sustava.

Nestandardne primjene neuronskih mreža

Ovo je nažalost kraj, nemam puno vremena. Govorit ću o onim nestandardnim rješenjima koja sada postoje i koja će, prema mnogim predviđanjima, imati neku primjenu u budućnosti.

Tako su znanstvenici sa Stanforda nedavno došli do vrlo neobične primjene CNN neuronske mreže za predviđanje siromaštva. Što su učinili?

Zapravo je koncept vrlo jednostavan. Činjenica je da u Africi razina siromaštva prelazi sve zamislive i nezamislive granice. Nemaju čak ni mogućnosti prikupiti socijalne demografske podatke. Dakle, od 2005. nemamo nikakvih podataka o tome što se tamo događa.

Znanstvenici su prikupljali karte dana i noći sa satelita i s vremenom ih unosili u neuronsku mrežu.

Neuronska mreža bila je unaprijed konfigurirana na ImageNet-u. To jest, prvi slojevi filtera konfigurirani su tako da može prepoznati neke vrlo jednostavne stvari, na primjer, krovove kuća, tražiti naselje na dnevnim kartama. Zatim su dnevne karte u usporedbi s noćnim kartama.osvijetljenost istog područja površine kako bi se reklo koliko novca stanovništvo ima da barem osvijetli svoje domove tijekom noći.

Ovdje vidite rezultate predviđanja koje je izgradila neuronska mreža. Prognoza je napravljena s različitim rezolucijama. I vidite - posljednji okvir - pravi podaci koje je prikupila vlada Ugande 2005.

Može se vidjeti da je neuronska mreža napravila prilično točna predviđanja, čak i s malim pomakom od 2005. godine.

Bilo ih je, naravno, nuspojave. Znanstvenici koji se bave dubinskim učenjem uvijek se iznenade kada pronađu različite nuspojave. Na primjer, poput onih koje je mreža naučila prepoznavati vodu, šume, velika gradilišta, ceste – sve to bez učitelja, bez unaprijed izgrađenih baza podataka. Općenito potpuno neovisan. Bilo je određenih slojeva koji su reagirali, primjerice, na ceste.

I zadnja primjena o čemu bih želio govoriti je semantička segmentacija 3D slika u medicini. Općenito, medicinsko snimanje je složeno područje s kojim je vrlo teško raditi.

Nekoliko je razloga za to.

• Imamo jako malo baza podataka. Sliku mozga, osim oštećenog, nije tako lako pronaći, a nemoguće ju je uzeti niotkuda.
• Čak i ako imamo takvu sliku, moramo uzeti medicinara i prisiliti ga da ručno postavi sve višeslojne slike, što je vrlo dugotrajno i krajnje neučinkovito. Nemaju svi liječnici sredstva za to.
• Potrebna je vrlo visoka točnost. Medicinski sustav ne može griješiti. Pri prepoznavanju, na primjer, tuljana, nisu prepoznali - u redu je. A ako ne prepoznamo tumor, onda to nije baš dobro. Posebno su strogi zahtjevi za pouzdanost sustava.
• Slike u trodimenzionalnim elementima – voxeli, a ne pikselima, što donosi dodatnu kompleksnost dizajnerima sustava.

Ali kako ste zaobišli ovaj problem u ovom slučaju? CNN je bio dual-stream. Jedan dio je obrađivao normalniju rezoluciju, drugi nešto lošiju rezoluciju kako bi se smanjio broj slojeva koje trebamo trenirati. Zbog toga je vrijeme za obuku mreže malo smanjeno.

Gdje se koristi: za utvrđivanje oštećenja nakon udarca, za traženje tumora na mozgu, u kardiologiji za određivanje rada srca.

Evo primjera za određivanje volumena posteljice.

Automatski, radi dobro, ali nedovoljno za puštanje u proizvodnju, tako da je tek na početku. Postoji nekoliko startupa za stvaranje takvih sustava medicinski vid. Općenito, postoji mnogo startupa u dubokom učenju u bliskoj budućnosti. Kažu da su rizični kapitalisti izdvojili više proračuna za startupove dubinskog učenja u posljednjih šest mjeseci nego u proteklih 5 godina.

Ovo područje se aktivno razvija, ima mnogo zanimljivih smjerova. Živimo u zanimljivim vremenima. Ako se bavite dubokim učenjem, vjerojatno je vrijeme da otvorite vlastiti startup.

Pa, vjerojatno ću završiti s ovim. Hvala vam puno.

17.04.1997 Aleksandar Ježov, Vladimir Čečetkin

Oštar bol u prsima. Hitna pomoć dostavlja pacijenta u hitnu pomoć, gdje dežurni liječnik mora postaviti dijagnozu i utvrditi radi li se doista o infarktu miokarda. Iskustvo pokazuje da je mali udio pacijenata koji su imali srčani udar među primljenima sa sličnim simptomima. precizne metode dijagnoza, međutim, još uvijek nedostaje. Elektrokardiogram ponekad ne sadrži očite znakove bolesti. I koliko parametara stanja pacijenta može na ovaj ili onaj način pomoći u postavljanju ispravne dijagnoze u ovom slučaju? Preko četrdeset. Može li liječnik hitna pomoć brzo analizirati sve te pokazatelje zajedno s odnosima kako bi se donijela odluka o usmjeravanju pacijenta na odjel kardiologije? U određenoj mjeri, tehnologije neuronskih mreža pomažu u rješavanju ovog problema. Neuralne mreže za dijagnostičke zadatke Konkretni sustavi Mogućnosti primjene neuronskih mreža Borba protiv raka Neurosustavi, genetika i molekule Neuralne mreže hodaju planetom Umjesto zaključka Akutna bol u prsima. Hitna pomoć dostavlja

Oštar bol u prsima. Hitna pomoć doprema pacijenta u hitnu pomoć, gdje dežurni liječnik mora postaviti dijagnozu i utvrditi je li doista riječ o infarktu miokarda. Iskustvo pokazuje da je mali udio pacijenata koji su imali srčani udar među primljenima sa sličnim simptomima. Međutim, još uvijek nema preciznih dijagnostičkih metoda. Elektrokardiogram ponekad ne sadrži očite znakove bolesti. I koliko parametara stanja pacijenta može na ovaj ili onaj način pomoći u postavljanju ispravne dijagnoze u ovom slučaju? Preko četrdeset. Može li liječnik u hitnoj hitnoj brzo analizirati sve te pokazatelje, zajedno s njihovim međusobnim odnosima, kako bi donio odluku o upućivanju pacijenta na odjel kardiologije? U određenoj mjeri, tehnologije neuronskih mreža pomažu u rješavanju ovog problema. .

Statistika je sljedeća: liječnik ispravno dijagnosticira infarkt miokarda u 88% pacijenata, a pogrešno postavlja tu dijagnozu u 29% slučajeva. Previše je lažnih uzbuna (pretjerana dijagnoza). Povijest aplikacija razne metode obrada podataka za poboljšanje kvalitete dijagnoze seže desetljećima unatrag, ali najbolji od njih pomogli su smanjiti broj slučajeva pretjerane dijagnoze za samo 3%.

Godine 1990. William Bakst s Kalifornijskog sveučilišta u San Diegu upotrijebio je neuronsku mrežu - višeslojni perceptron - za prepoznavanje infarkta miokarda kod pacijenata primljenih na hitnu pomoć s akutna bol u grudima. Cilj mu je bio stvoriti alat koji može pomoći liječnicima koji se ne mogu nositi s protokom podataka koji karakteriziraju stanje primljenog pacijenta. Drugi cilj može biti poboljšanje dijagnostike. Istraživač je sebi otežao zadatak jer je analizirao podatke samo onih pacijenata koji su već bili upućeni na odjel kardiologije. Bakst je koristio samo 20 parametara, među kojima su bili dob, spol, mjesto boli, odgovor na nitroglicerin, mučnina i povraćanje, znojenje, sinkopa, brzina disanja, otkucaji srca, prethodni srčani udari, dijabetes, hipertenzija, proširenje jugularne vene, niz EKG karakteristike i prisutnost značajnih ishemijskih promjena.

Mreža je bila 92% točna u otkrivanju infarkta miokarda i proizvela je samo 4% lažnih alarma, pogrešno potvrđujući upućivanje bolesnika bez infarkta na kardiološki odjel. Dakle, postoji činjenica o uspješnoj primjeni umjetnih neuronskih mreža u dijagnostici bolesti. Sada je potrebno objasniti u kojim se parametrima procjenjuje kvaliteta dijagnoze u općem slučaju. Pretpostavimo da od deset osoba koje stvarno dožive srčani udar, dijagnostička metoda može otkriti bolest kod osam. Tada će osjetljivost metode biti 80%. Ako uzmemo deset osoba koje nemaju infarkt, a dijagnostička metoda posumnja na tri osobe, onda je udio lažne uzbune bit će 30%, dok će mu dodatna karakteristika - specifičnost metode - biti jednaka 70%.

Idealna dijagnostička metoda treba imati stopostotnu osjetljivost i specifičnost - prvo, da ne propusti niti jednu stvarno bolesnu osobu i, drugo, da ne prestraši zdrave ljude. Da biste se osigurali, možete i trebate prije svega pokušati osigurati stopostotnu osjetljivost metode - ne možete propustiti bolest. Ali to u pravilu rezultira niskom specifičnošću metode - kod mnogih ljudi liječnici sumnjaju na bolesti od kojih pacijenti zapravo ne boluju.

Neuronske mreže za dijagnostičke zadatke

Neuronske mreže su nelinearni sustavi koji omogućuju mnogo bolju klasifikaciju podataka od one koja se uobičajeno koristi linearne metode. Kada se primjenjuju u medicinskoj dijagnostici, oni omogućuju značajno povećanje specifičnosti metode bez smanjenja njezine osjetljivosti.

Podsjetimo, neuronska mreža za dijagnosticiranje srčanog udara radila je s velikim skupom parametara čiji se utjecaj na dijagnozu osobe ne može procijeniti. Ipak, neuronske mreže su mogle donositi odluke na temelju skrivenih obrazaca koje su identificirale u višedimenzionalnim podacima. Posebna značajka neuronskih mreža je da nisu programirane - ne koriste nikakva pravila zaključivanja za postavljanje dijagnoze, već su za to osposobljene na primjerima. U tom smislu, neuronske mreže nisu nimalo poput ekspertnih sustava, čiji se razvoj u 70-ima dogodio nakon privremene “pobjede” umjetne inteligencije nad pristupom modeliranju pamćenja, prepoznavanju uzoraka i generalizaciji, koji se temeljio na studiji neuralne organizacije mozga.

Jedan od najpoznatijih razvijenih ekspertnih sustava, čiji se rad temeljio na znanju eksperata i implementaciji postupaka zaključivanja, bio je sustav MYCIN. Ovaj je sustav razvijen na Stanfordu ranih 70-ih za dijagnosticiranje septički šok. Polovica pacijenata umrla je od nje unutar jednog dana, a liječnici su mogli otkriti sepsu u samo 50% slučajeva. Činilo se da je MYCIN pravi trijumf tehnologije ekspertnih sustava, jer je mogao otkriti sepsu u 100% slučajeva. No, nakon bližeg upoznavanja s tim ekspertnim sustavom, liječnici su se značajno popravili tradicionalne metode dijagnostika, a MYCIN izgubio smisao, postavši obrazovni sustav. Ekspertni sustavi "otišli" su samo u kardiologiju - za analizu elektrokardiograma. Složena pravila koja čine glavni sadržaj knjiga o kliničkoj EKG analizi korištena su od strane odgovarajućih sustava za izdavanje dijagnostičkog zaključka.

Dijagnostika je poseban slučaj klasifikacije događaja, a najvrjednija je klasifikacija onih događaja koji nisu u skupu za treniranje neuronske mreže. Ovdje se očituje prednost tehnologija neuronskih mreža - one su u stanju izvršiti takvu klasifikaciju, generalizirajući prethodno iskustvo i primjenjujući ga u novim slučajevima.

Specifični sustavi

Primjer dijagnostičkog programa je kardiodijagnostički paket koji je razvila RES Informatica zajedno s Centrom za kardiološka istraživanja u Milanu. Program omogućuje neinvazivnu kardiodijagnostiku temeljenu na prepoznavanju tahogramskih spektara. Tahogram je histogram intervala između uzastopnih otkucaja srca, a njegov spektar odražava ravnotežu aktivnosti ljudskog simpatičkog i parasimpatičkog živčanog sustava, koja se specifično mijenja kod raznih bolesti.

Na ovaj ili onaj način, već sada se može reći da se neuronske mreže pretvaraju u alat za kardiodijagnostiku - u Engleskoj se, primjerice, koriste u četiri bolnice za prevenciju infarkta miokarda.

U medicini se također koristi još jedna značajka neuronskih mreža - njihova sposobnost predviđanja vremenskih sekvenci. Već je navedeno da su ekspertni sustavi uspjeli u analizi EKG-a. Ovdje su korisne i neuronske mreže. Ki Zhenghu, Yu Henu i Willis Tompkins sa Sveučilišta u Wisconsinu razvili su sustav filtriranja neuronske mreže za elektrokardiograme koji može potisnuti nelinearni i nestacionarni šum puno bolje od prethodno korištenih metoda. Činjenica je da je neuronska mreža dobro predvidjela šum prema njegovim vrijednostima u prethodnim vremenskim točkama. A da su neuronske mreže vrlo učinkovite za predviđanje vremenskih sekvenci (kao što su tečajevi ili kotacije dionica) uvjerljivo su pokazali rezultati natjecanja prediktivnih programa koje je provelo Sveučilište Santa Fe - neuronske mreže su zauzele prvo mjesto i dominirale među najbolje metode.

Mogućnosti korištenja neuronskih mreža

EKG je privatna, iako iznimno važna aplikacija. Međutim, danas postoje mnogi drugi primjeri korištenja neuronskih mreža za medicinska predviđanja. Poznato je da su dugi redovi na odjelima kardiokirurgije (od tjedana do mjeseci) uzrokovani nedostatkom jedinica intenzivne njege. Nije moguće povećati njihov broj zbog visokih troškova reanimacije (Amerikanci potroše 70% sredstava u zadnja 2 tjedna života na ovom odjelu).

Jedini izlaz je učinkovitije korištenje raspoloživih sredstava. Pretpostavimo da je stanje pacijenata operiranih određenog dana toliko teško da im je potreban dug boravak u jedinici intenzivne njege (više od dva dana). Cijelo to vrijeme kirurzi će mirovati, jer novooperirane pacijente nemaju gdje smjestiti. Teške bolesnike pametnije je operirati prije vikenda ili praznika - operacijske sale su i ovih dana zatvorene, kirurzi će se odmarati, a pacijenti će se oporavljati na intenzivnoj njezi. Ali na početku radnog tjedna bolje je operirati one pacijente koji će morati biti na intenzivnoj njezi samo jedan ili dva dana. Tada će se kreveti na odjelu intenzivnog liječenja brže oslobađati i primati nove pacijente operirane u utorak i srijedu.

Pitanje je kako pogoditi tko će nakon operacije morati dugo ostati na odjelu intenzivne njege, a tko ne. Jack Too i Michael Guerier iz bolnice St. Michael's Sveučilišta u Torontu koristili su neuronske mreže da bi napravili ovo predviđanje. Kao početne podatke uzeli su samo one podatke o pacijentu koji su poznati u prijeoperacijskom razdoblju. Imajte na umu da u prethodnim radovima koji ne koriste neuronske mreže, kao faktore povećan rizik boravak u jedinici intenzivne njege, korištene su i važne postoperativne informacije - razne komplikacije nastale tijekom kirurške intervencije.

Tu i Guerir uvježbali su dvoslojni perceptron da podijeli pacijente u tri rizične skupine, s obzirom na njihovu dob, spol, funkcionalno stanje lijeve klijetke, stupanj složenosti nadolazeće operacije i prisutnosti popratne bolesti. Od onih pacijenata koje je mreža identificirala kao one s niskim rizikom odgode intenzivne njege, samo 16,3% je zapravo provelo više od dva dana na intenzivnoj njezi. Istodobno, preko 60% onih koje je mreža identificirala kao visokorizične opravdalo je nepovoljnu prognozu.

Borba protiv raka

Platili smo Posebna pažnja kardiovaskularne bolesti, budući da upravo oni drže tužno vodstvo na popisu uzroka smrti. Na drugom mjestu su onkološke bolesti. Jedno od glavnih područja u kojima se trenutno radi na korištenju neuronskih mreža je dijagnostika raka dojke. Ova bolest je uzrok smrti svake devete žene.

Otkrivanje tumora provodi se tijekom inicijalne rendgenske analize dojke (mamografija) i naknadne analize djelića tumorskog tkiva (biopsija). Unatoč postojanju općih pravila za razlikovanje dobroćudnih i zloćudnih novotvorina, prema mamografiji samo 10 do 20% rezultata naknadne kirurške biopsije doista potvrđuje postojanje raka dojke. Opet imamo posla sa slučajem izrazito niske specifičnosti metode.

Istraživači Sveučilišta Duke istrenirali su neuronsku mrežu da prepozna mamografiju maligno tkivo na temelju osam značajki kojima se obično bave radiolozi. Pokazalo se da mreža može riješiti problem s osjetljivošću od oko 100% i specifičnošću od 59% (usporedite s 10-20% za radiologe). Koliko žena iz benigni tumori Možete izbjeći stres vezan uz uzimanje biopsije ako koristite ovu neuronsku mrežu! U klinici Mayo (Minnesota) neuronska mreža je analizirala rezultate ultrazvuka dojke i dala specifičnost od 40%, dok se za iste žene pokazalo da je specifičnost zaključka radiologa nula. Nije li istina da uspjeh korištenja tehnologija neuronskih mreža ne izgleda nimalo slučajno?

Nakon liječenja raka dojke moguća je ponovna pojava tumora. Neuronske mreže već pomažu u njihovom učinkovitom predviđanju. Slična istraživanja provode se na Medicinskom fakultetu Sveučilišta u Teksasu. Uvježbane mreže pokazale su svoju sposobnost identificiranja i uzimanja u obzir vrlo složenih odnosa prediktivnih varijabli, posebice njihovih trostrukih odnosa kako bi se poboljšala prediktivna sposobnost.

Mogućnosti korištenja neuronskih mreža u medicini su raznolike, a njihova arhitektura je raznolika. Na temelju prognoze dugoročnih rezultata liječenja bolesti jednom ili drugom metodom, može se dati prednost jednoj od njih. Značajan rezultat u prognozi liječenja raka jajnika (bolesti svake sedamdesete žene) postigao je poznati nizozemski specijalist Herbert Kappen sa Sveučilišta u Nimegenu (on u svom radu ne koristi višeslojne perceptrone, već tzv. Boltzmann Strojevi – neuronske mreže za procjenu vjerojatnosti).

Evo primjera druge vrste raka. Istraživači iz medicinska škola u Kagawi (Japan) uvježbao neuronsku mrežu koja je gotovo točno predvidjela rezultate resekcije jetre kod bolesnika s hepatocelularnim karcinomom na temelju podataka prije operacije.

U Troitsk Institute for Innovation and Fusion Research (TRINITI), u sklopu projekta stvaranja sustava savjetovanja neuronske mreže koji provodi Ministarstvo znanosti, razvijen je program neuronske mreže koji odabire metodu liječenja raka kože bazalnih stanica (bazalioma ) na temelju dugoročne prognoze recidiva. Broj slučajeva bazalioma - onkološke bolesti ljudi bijele puti s tankom kožom - čini trećinu svih onkoloških bolesti.

Dijagnostika jednog od oblika melanoma - tumora, koji je ponekad teško razlikovati od pigmentiranog oblika bazalioma, provedena je pomoću simulatora neuronske mreže Multineuron koji je razvijen u Računalnom centru SOAN-a u Krasnojarsku pod vodstvom A. N. Gorbana.

Neuronske mreže također se mogu koristiti za predviđanje učinka različitih tretmana koji su u razvoju. Već su se uspješno koristili u kemiji za predviđanje svojstava spojeva na temelju njihove molekularne strukture. Istraživači s Nacionalnog instituta za rak u SAD-u upotrijebili su neuronske mreže za predviđanje mehanizma djelovanja lijekova koji se koriste u kemoterapiji raka. Imajte na umu da postoje milijuni različitih molekula čije je djelovanje protiv raka potrebno istražiti. Stručnjaci Instituta za rak podijelili su poznate onkološke lijekove u šest skupina prema mehanizmu djelovanja na stanice raka i osposobljene višeslojne mreže za klasifikaciju novih tvari i prepoznavanje njihovih učinaka. Kao početni podaci korišteni su rezultati eksperimenata o supresiji rasta stanica iz različitih tumora. Klasifikacija neuronske mreže omogućuje vam da odredite koje su od stotina molekula koje se svakodnevno testiraju vrijedne daljnjeg proučavanja u vrlo skupim in vitro i in vivo eksperimentima. Za rješavanje sličnog problema korištene su i Kohonenove mreže. Ove nenadzirane, samoorganizirajuće neuronske mreže razbijale su tvari u nepoznat broj klastera i stoga omogućile istraživačima da identificiraju tvari s novim citotoksičnim mehanizmima djelovanja.

Neurosustavi, genetika i molekule

Dijagnostika i liječenje onkoloških bolesti, kao i razvoj novih lijekova, nedvojbeno predstavljaju najvažnije područje primjene tehnologija neuronskih mreža. Nedavno, međutim, među istraživačima i liječnicima raste svijest da budući napredak mora biti usko povezan s proučavanjem molekularnih i genetskih uzroka bolesti.

Nije slučajno da su u travnju 1997. godine stručnjaci Nacionalnog instituta za zdravlje (SAD) dali preporuke za jačanje istraživanja vezanih za utvrđivanje uzroka, izazivanje raka, i razvoj usmjeren na prevenciju bolesti. Dugo se vremena neuronske mreže aktivno koriste u analizi sekvenci genomske DNA, posebice za prepoznavanje promotora - regija koje prethode genima i vežu se na protein RNA polimeraze, koji inicira transkripciju. Koriste se za razlikovanje kodirajućih i nekodirajućih područja DNA (egzona i introna) i za predviđanje strukture proteina.

Godine 1996. došlo je do senzacionalnog otkrića koje je povezalo temeljna istraživanja molekularne genetike s problemom patogeneze i liječenja najčešće onkološke bolesti - karcinoma kože bazalnih stanica. Istraživači su otkrili gen (PTC) u devetom ljudskom kromosomu, čije su mutacije, za razliku od gena p53, uzrokovane izlaganjem ultraljubičastom zračenju i uzrok su razvoja tumora. Ključ otkrića bilo je proučavanje takozvanog patch gena čije su promjene potaknule razvojne nedostatke vinske mušice te činjenica da kod djece koja također pate od razvojnih nedostataka koštano tkivo(sindrom bazalnog nevusa), često postoje multipli bazaliomi.

Sada su genetičari i liječnici puni nade da će pronaći lijek za liječenje bazalioma ili koristiti metode genske kirurgije i zamijeniti njima takve nemilosrdne metode liječenja kao što su konvencionalni laser, X-zrake i kriokirurgija. Mogu li neuronske mreže biti korisne za ove studije? Konkretno, mogu li se koristiti za procjenu mogućeg utjecaja određene mutacije na promjenu svojstava odgovarajućih proteina ili za procjenu njezine prognostičke vrijednosti, recimo, za razvoj recidiva raka dojke?

Kad bi se to moglo učiniti, tada bi neuronske mreže značajno smanjile područje pretraživanja za molekularne biologe, koji često provode vrlo skupe eksperimente kako bi procijenili ulogu mutacija u molekuli DNK. Podsjetimo, nekontrolirani rast i dioba stanica dovodi do razvoja malignih tumora. Ljudski genom, koji sadrži podatke o svim proteinima proizvedenim u tijelu, ima oko tri milijarde nukleotida. Ali samo 2-3% njih zapravo kodira proteine ​​- ostatak je potreban samoj DNK za održavanje ispravne strukture, replikacije i drugih stvari.

U sekvencama genomske DNA mogu se grubo razlikovati tri komponente: prva sadrži brojne kopije identičnih fragmenata (satelitska DNA); drugi sadrži umjereno ponavljajuće sekvence razasute po genomu; a u trećoj _jedinstveni DNK. U satelitskoj DNK različite su kopije nejednako zastupljene – njihov broj varira od stotina do milijuna. Stoga se obično dalje dijele na mini- i mikrosatelite.

Zanimljivo je da je distribucija mikrosatelita u genomu toliko specifična da se može koristiti kao analogija ljudskim otiscima prstiju. Također se vjeruje da se ova raspodjela može koristiti i za dijagnosticiranje raznih bolesti.

U skrivenom obliku, ponavljanja nukleotidnih sekvenci igraju važnu ulogu u jedinstvenim sekvencama DNK. Prema hipotezi Francisa Cricka, evolucija DNK počinje od kvaziperiodičnih struktura, a ako uspijemo pronaći skrivena ponavljanja, saznat ćemo gdje su se dogodile mutacije koje su odredile evoluciju, što znači da ćemo pronaći i najstarija i najvažnija mjesta u koje su mutacije najopasnije. Distribucija skrivenih ponavljanja također je usko povezana sa strukturom i funkcijom proteina kodiranih odgovarajućim slijedom.

TRINITY je razvio sustav u kojem se modifikacije Hopfieldove neuronske mreže koriste za traženje skrivenih ponavljanja i procjenu uloge mutacija u sekvencama DNK. Nadamo se da se ovaj pristup može koristiti za generaliziranje spektralna analiza nizovi podataka su vrlo opći pogled, na primjer, za analizu elektrokardiograma.

Neuronske mreže hodaju planetom

Geografija istraživačkih skupina koje koriste neuronske mreže za razvoj medicinskih aplikacija vrlo je široka. Nema se što reći o SAD-u - slične studije provode se na sveučilištima svake države, a njihov glavni smjer je rak dojke. Zašto postoje sveučilišta - to rade i vojne akademije. U Češkoj je Jiří Shima razvio teoriju treniranja neuronskih mreža koje mogu učinkovito raditi s takozvanim intervalnim podacima (kada nisu poznate vrijednosti parametra, već interval njihove promjene), te ih koristi u raznim medicinskim aplikacije. U Kini su istraživači s Instituta za atomsku energiju uvježbali neuralnu mrežu da razlikuje pacijente s blagim i teškim bolestima epitela jednjaka i onih s rakom jednjaka na temelju elementarne analize noktiju.

U Rusiji DZZP MSU koristi neuronske mreže za analizu bolesti slušnih organa.

Naposljetku, u Australiji je George Christ upotrijebio teoriju neuralnih mreža za konstrukciju prve hipoteze o uzrocima misteriozni sindrom iznenadna smrt novorođenčadi.

***

Naravno, članak daje daleko od potpunog popisa primjera korištenja tehnologija umjetne neuronske mreže u medicini. Po strani su ostale psihijatrija, traumatologija i druge sekcije u kojima se neuronske mreže okušavaju u ulozi pomoćnog dijagnostičara i kliničara. Ne izgleda sve, naravno, ružičasto u savezu nove računalne tehnologije i zdravstvene zaštite. Programi za neuronske mreže ponekad su iznimno skupi za široku primjenu u klinici (od tisuća do desetaka tisuća dolara), a liječnici su prilično skeptični prema bilo kakvim računalnim inovacijama. Zaključak koji donosi neuronska mreža mora biti popraćen prihvatljivim objašnjenjima ili komentarima.

No, još ima razloga za optimizam. Ovladavanje i primjena tehnologija neuronskih mreža puno je lakše od učenja matematička statistika ili neizrazitu logiku. Za stvaranje neuronske mreže medicinski sustav Za to su potrebni mjeseci, a ne godine. Da, i parametri su vrlo ohrabrujući - prisjetimo se još jednom visoke specifičnosti dijagnostike.

A još jedna nada za suradnju je sama riječ "neuron". Ipak, liječnicima je tako dobro poznato ...

Aleksandar Ježov, Vladimir Čečetkin - Institut za istraživanje inovacija i fuzije (Troitsk).

Broj publikacija o primjeni neurotehnologije u medicini teško je točno procijeniti. Međutim, ako ih je 1988.-89. bilo tek nekoliko, od 1995. svake godine pojavljuju se stotine. Sljedeće adrese mogu biti od pomoći:

Ali i za rješavanje važnijih zadataka – na primjer, za traženje novih lijekova. The Village se obratio stručnjacima kako bi doznao koje su karakteristike tehnologije i kako je koriste domaće tvrtke i sveučilišta.

Što su neuronske mreže?

Da shvatimo koje mjesto neuronske mreže zauzimaju u svijetu umjetna inteligencija i kako su one povezane s drugim tehnologijama za stvaranje inteligentnih sustava, počnimo s definicijama.

Neuronske mreže- jedna od metoda strojnog učenja, čiji su temelji nastali 1943. godine, čak i prije pojave pojma "umjetna inteligencija". Oni su matematički model koji izdaleka podsjeća na rad živčanog sustava životinja.

Prema Stanislavu Protasovu, višem istraživaču na Sveučilištu Innopolis, konvolucijske neuronske mreže, koje je izumio matematičar Jan Lekun, najbliže su analogije ljudskom mozgu. "Oni su u srcu mnogih aplikacija koje tvrde da su umjetna inteligencija, kao što su FindFace ili Prisma", napominje.

Strojno učenje- pododjeljak umjetne inteligencije na sjecištu matematike i informatike. Proučava metode za izgradnju modela i algoritama na principu učenja. Stroj analizira primjere koji su mu dostavljeni, ističe uzorke, generalizira ih i gradi pravila koja rješavaju različite probleme - na primjer, predviđanje budućeg razvoja događaja ili prepoznavanje i generiranje slika, teksta i govora. Osim neuronskih mreža, ovdje se koriste i metode linearne regresije, stabla odlučivanja i drugi pristupi.

Umjetna inteligencija- dio računalne znanosti o stvaranju tehnoloških sredstava za strojeve za obavljanje zadataka koji su se prije smatrali isključivo prerogativom čovjeka, kao i označavanje takvog razvoja. Smjer je službeno dobio oblik 1956. godine.

Aleksandar Krainov

Što se može zvati umjetnom inteligencijom, a što ne, stvar je dogovora. Uglavnom, čovječanstvo nije došlo do jednoznačne formulacije o tome što je inteligencija uopće, a da ne govorimo o umjetnoj. Ali ako rezimiramo što se događa, onda možemo reći da je umjetna inteligencija duboke neuronske mreže koje rješavaju složene probleme na razini bliskoj razini osobe, au određenoj mjeri i samoučenju. U isto vrijeme, samoučenje ovdje znači sposobnost samostalnog izdvajanja korisnog signala iz neobrađenih podataka.

Kakvo je trenutno stanje u industriji?

Prema Gartneru, analitičkoj agenciji, strojno učenje je sada na vrhuncu prenapuhanih očekivanja. Tipično za ovu pozornicu, uzbuđenje okolo nova tehnologija dovodi do pretjeranog entuzijazma, koji se pretvara u neuspješne pokušaje korištenja posvuda. Procjenjuje se da će industriji trebati od dvije do pet godina da se riješi iluzija. Prema ruskim stručnjacima, neuronske mreže uskoro će morati proći test čvrstoće.

Sergej Negodjajev

Voditelj portfelja, Fond za razvoj internetskih inicijativa

Iako znanstvenici već 70 godina formaliziraju i razvijaju neuronske mreže, dvije su prekretnice u razvoju ove tehnologije. Prvi je bio 2007. godine, kada je Sveučilište u Torontu stvorilo algoritme dubokog učenja za višeslojne neuronske mreže. Drugi trenutak koji je izazvao trenutni bum bila je 2012. godina, kada su istraživači s istog sveučilišta primijenili duboke neuronske mreže i pobijedili na ImageNet natjecanju, naučivši prepoznavati objekte na fotografijama i videima uz minimalne pogreške.

Sada ima dovoljno računalne snage za rješavanje, ako ne ijednog, onda velike većine zadataka temeljenih na neuronskim mrežama. Sada je glavna prepreka nedostatak označenih podataka. Relativno govoreći, kako bi sustav naučio prepoznati zalazak sunca na videu ili fotografiji, treba ubaciti milijun slika zalaska sunca, pokazujući točno gdje se nalazi u kadru. Na primjer, kada prenesete fotografiju na Facebook, vaši prijatelji je prepoznaju kao mačku u zrakama zalazećeg sunca, a društvena mreža na njoj vidi niz oznaka: "životinja", "mačka", "drvena", “pod”, “večer”, “ narančasto”. Tko ima više podataka o treningu, imat će neuronsku mrežu koja će biti pametnija.

Andrej Kalinin

Voditelj Poisk Mail.Ru

Zabavne aplikacije koje se temelje na neuronskim mrežama kao što su naše Artisto ili Vinci samo su vrh ledenog brijega i izvrstan način za prikazivanje njihovih mogućnosti široj publici. Zapravo, neuronske mreže mogu riješiti niz složenih problema. Trenutno su "najvruća" područja autopiloti, glasovni asistenti, chat botovi i medicina.

Aleksandar Krainov

Voditelj službe računalnog vida, Yandex

Možemo reći da je procvat neuronskih mreža već stigao, ali još nije dosegao svoj vrhunac. Dalje će biti samo zanimljivije. Područja koja danas najviše obećavaju su možda računalni vid, sustavi za dijalog, analiza teksta, robotika, bespilotna vozila i generiranje sadržaja - tekstova, slika, glazbe.

Obećavajuća područja za implementaciju neuronskih mreža

Prijevoz

Robotika

Biotehnologija

Poljoprivreda

Internet stvari

Mediji i zabava

Lingvistika

Sigurnost

Vlad Šeršulski

Direktor programa Microsoftove tehnološke suradnje u Rusiji

Neuralna revolucija se već dogodila danas. Ponekad je čak teško razlikovati fikciju od stvarnosti. Zamislite automatizirani kombajn s više kamera. Snima 5 tisuća slika u minuti i kroz neuronsku mrežu analizira je li pred njim korov ili biljka zaražena štetočinama, nakon čega odlučuje što dalje. Fikcija? Zapravo više i ne.

Boris Wolfson

Direktor razvoja Headhuntera

Postoji određeni hype oko neuronskih mreža i, po mom mišljenju, malo visoka očekivanja. Proći ćemo kroz period frustracije prije nego što naučimo kako ih učinkovito koristiti. Mnogi rezultati revolucionarnih istraživanja još nisu dovoljno primjenjivi u poslovanju. U praksi je često razumnije koristiti druge metode strojnog učenja – primjerice, razne algoritme temeljene na stablima odlučivanja. Vjerojatno ne izgleda tako uzbudljivo ili futuristički, ali ovi su pristupi vrlo česti.

Što podučavaju neuronske mreže u Rusiji?

Tržišni sudionici se slažu da su mnoga dostignuća neuronskih mreža još uvijek primjenjiva samo u akademskom području. Izvan svojih granica, tehnologija se uglavnom koristi u zabavnim aplikacijama, što potiče interes za ovu temu. Ipak, ruski programeri podučavaju neuronske mreže za rješavanje društveno značajnih i poslovnih problema. Pogledajmo pobliže neka područja.

Znanost i medicina

Yandex School of Data Analysis sudjeluje u eksperimentu CRAYFIS zajedno s predstavnicima Skolkova, Moskovskog instituta za fiziku i tehnologiju, Visoke škole ekonomije i američkih sveučilišta UCI i NYU. Njegova bit je traženje kozmičkih čestica ultravisoke energije pomoću pametnih telefona. Podaci s kamera prenose se na ubrzane neuronske mreže, sposobne uhvatiti tragove čestica u slaboj interakciji na slikama.

Ovo nije jedini međunarodni eksperiment u koji su uključeni ruski stručnjaci. Znanstvenici Sveučilišta Innopolis Manuel Mazzara i Leonard Johard uključeni su u projekt BioDynaMo. Uz potporu Intela i CERN-a, žele stvoriti prototip koji može reproducirati cjelovitu simulaciju moždane kore. Uz njegovu pomoć planira se povećati učinkovitost i ekonomičnost eksperimenata koji zahtijevaju prisutnost živog ljudskog mozga.

Profesor Innopolisa Yaroslav Kholodov sudjelovao je u razvoju računalnog modela sposobnog deset puta brže predvidjeti stvaranje proteinskih veza. Ovim algoritmom može se ubrzati razvoj cjepiva i lijekova. U istom području zapaženi su programeri iz Mail.Ru Group, Insilico Medicine i MIPT. Koristili su generativne kontradiktorne mreže, obučene za izmišljanje molekularnih struktura, kako bi tražili tvari koje bi mogle biti korisne u bolestima u rasponu od raka do kardiovaskularnih bolesti.

ljepote i zdravlja

2015. godine ruska tvrtka Youth Laboratories pokrenula je prvo međunarodno natjecanje ljepote Beauty.AI. Fotografije sudionika u njemu procijenile su neuronske mreže. Pri određivanju pobjednika u obzir su uzeli spol, dob, nacionalnost, boju kože, simetriju lica te prisutnost ili odsutnost bora kod korisnika. Potonji faktor također je potaknuo organizatore da kreiraju uslugu RYNKL, koja vam omogućuje praćenje kako starenje utječe na kožu i kako se različiti lijekovi bore s njom.

Neuronske mreže se također koriste u telemedicini. Ruska tvrtka Mobile Medical Technologies, koja vodi projekte Online Doctor i Pediatrician 24/7, testira dijagnostički bot koji će biti koristan i pacijentima i liječnicima. Za prvi će vam reći kojem stručnjaku se obratite za određene simptome, a za drugi će vam pomoći utvrditi od čega je točno posjetitelj bolestan.

Optimizacija poslovnih procesa i oglašavanje

Ruski startup Leadza uspio je pomoću neuronskih mreža učinkovitije rasporediti budžet za oglašavanje na Facebooku i Instagramu. Algoritam analizira rezultate prošlih kampanja, gradi prognozu ključnih metrika i na temelju njih automatski preraspoređuje troškove kako bi internetske trgovine mogle dobiti više kupaca po nižoj cijeni.

Tim GuaranaCam koristio je tehnologije strojnog učenja za procjenu učinkovitosti postavljanja proizvoda i reklamnih materijala izvan mreže. Sustav se temelji na Microsoft Azure oblaku i analizira ponašanje potrošača pomoću CCTV kamera. Vlasnici tvrtki primaju izvješće o statusu trgovanja u stvarnom vremenu. Projekt se već primjenjuje u trgovačkom centru Mega Belaya Dacha.

Uspješni domaći primjeri korištenja neuronskih mreža u poslovanju tu ne završavaju. LogistiX, koji od 2006. godine eksperimentira s tehnologijama umjetne inteligencije, razvio je sustav optimizacije skladišta. Temelji se na učećoj neuronskoj mreži koja analizira podatke o zaposlenicima dobivene od fitness trackera i preraspoređuje opterećenje između njih. Sada tim uči neuronske mreže razlikovati brak.

Holding Belfingroup otišao je i dalje. Njegova "kći" BFG-soft stvorila je platformu u oblaku BFG-IS, koja vam omogućuje upravljanje poduzećem koristeći njegov virtualni model. Potonji se automatski gradi na temelju proizvodnih podataka koje prikuplja sustav i ne samo da pokazuje kako najbolje organizirati procese uzimajući u obzir postavljene ciljeve, već i predviđa posljedice bilo kakvih promjena - od zamjene opreme do uvođenja dodatnih smjena. Krajem 2016. Fond za razvoj internetskih inicijativa odlučio je u tvrtku uložiti 125 milijuna rubalja.

Zapošljavanje i upravljanje osobljem

Ruski agregator za regrutiranje Stafory završava obuku ponavljajuće neuronske mreže koja ne samo da može dati jednosložne odgovore na pitanja kandidata, već i voditi potpuni razgovor s njima o slobodnom radnom mjestu za koje su zainteresirani. A tim portala SuperJob testira uslugu koja predviđa koji će od stotina životopisa iste vrste biti tražen kod pojedinog poslodavca.

Prijevoz

Ruski programer inteligentnih sustava Cognitive Technologies koristi neuronske mreže za prepoznavanje vozila, pješaka, prometnih znakova, semafora i drugih objekata koji ulaze u kadar. Tvrtka također prikuplja podatke za obuku neuronske mreže za bespilotno vozilo. Riječ je o desecima tisuća epizoda koje opisuju reakciju vozača na određene kritične situacije na cestama. Kao rezultat toga, sustav mora formulirati optimalne scenarije za ponašanje autorobota. Iste se tehnologije koriste za stvaranje pametnog poljoprivrednog transporta.

Osim toga, neuronske mreže mogu se koristiti u području prometa i na druge načine. U ljeto 2016. Yandex je na svoju oglasnu ploču Avto.ru dodao funkciju automatskog prepoznavanja modela automobila iz njegove fotografije. Tada je sustav znao 100 maraka.

Psihologija i sigurnost

Ruski startup NTechLab, koji je nadmašio Google u The MegaFace Benchmarku, međunarodnom natjecanju algoritama za prepoznavanje lica, koristio je tehnologije strojnog učenja u aplikaciji FindFace. Omogućuje vam pronalaženje osobe na društvenim mrežama prema fotografiji. Korisnici se često obraćaju usluzi za otkrivanje krivotvorina, ali može biti korisna i službenicima za provođenje zakona. Uz njegovu pomoć već je utvrđen identitet nekoliko kriminalaca, uključujući i napadača Citibanka u Moskvi. Poslovna verzija FindFace.Pro dostupna je tvrtkama zainteresiranim za identifikaciju kupaca. Sada se sustav osposobljava za određivanje spola, dobi i emocija drugih, što može biti korisno ne samo u komunikaciji s kupcima, već iu upravljanju osobljem.

Slično, neuronske mreže koristi još jedna ruska tvrtka - VisionLabs. Koristi tehnologiju prepoznavanja lica za osiguranje sigurnosti u bankama i kreiranje posebnih ponuda za najvjernije kupce raznih maloprodajnih mjesta.

U sličnom smjeru radi i startup Emotian. Dovršava sustav za određivanje emocionalnog stanja gradova. Do sada neuronska mreža izračunava najsretnija područja na temelju objava na društvenim mrežama, no u budućnosti će tvrtka uzeti u obzir biometrijske podatke s kamera.

Mediji i kreativnost

Jedan od glavnih igrača na ruskom tržištu neuronskih mreža je Yandex. Tvrtka koristi strojno učenje ne samo u svojim uslugama pretraživanja, već iu drugim proizvodima. 2015. pokrenula je sustav preporuka " Zen“, koji formira feed vijesti, članaka, fotografija i videa na temelju interesa određenog korisnika. Što se češće okreće materijalima koje je odabrao algoritam, to točnije neuronska mreža određuje što bi mu se još moglo svidjeti.

Osim toga, Yandex također eksperimentira s kreativnošću. Zaposlenici tvrtke već su uspjeli primijeniti pristup neuronske mreže na poeziju, a zatim

- 26,76 Kb

Neuronske mreže u medicini

Aleksandar Ježov, Vladimir Čečetkin

Institut za istraživanje inovacija i fuzije, Troick

[e-mail zaštićen]

Specifični sustavi

Borba protiv raka

Neurosustavi, genetika i molekule

Neuronske mreže hodaju planetom

Umjesto zaključka

Oštar bol u prsima. Hitna pomoć doprema pacijenta u hitnu pomoć, gdje dežurni liječnik mora postaviti dijagnozu i utvrditi je li doista riječ o infarktu miokarda. Iskustvo pokazuje da je mali udio pacijenata koji su imali srčani udar među primljenima sa sličnim simptomima. Međutim, još uvijek nema preciznih dijagnostičkih metoda. Elektrokardiogram ponekad ne sadrži očite znakove bolesti. I koliko parametara stanja pacijenta može na ovaj ili onaj način pomoći u postavljanju ispravne dijagnoze u ovom slučaju? Preko četrdeset. Može li liječnik u hitnoj hitnoj brzo analizirati sve te pokazatelje, zajedno s njihovim međusobnim odnosima, kako bi donio odluku o upućivanju pacijenta na odjel kardiologije? U određenoj mjeri, tehnologije neuronskih mreža pomažu u rješavanju ovog problema.

Statistika je sljedeća: liječnik ispravno dijagnosticira infarkt miokarda u 88% pacijenata, a pogrešno postavlja tu dijagnozu u 29% slučajeva. Previše je lažnih uzbuna (pretjerana dijagnoza). Povijest korištenja različitih metoda obrade podataka za poboljšanje kvalitete dijagnoze seže desetljećima unatrag, ali najbolje od njih pomogle su smanjiti broj slučajeva prekomjerne dijagnoze za samo 3%.

Godine 1990. William Bakst s Kalifornijskog sveučilišta u San Diegu upotrijebio je neuronsku mrežu - višeslojni perceptron - za prepoznavanje infarkta miokarda kod pacijenata primljenih na hitnu pomoć s akutnom boli u prsima. Cilj mu je bio stvoriti alat koji može pomoći liječnicima koji se ne mogu nositi s protokom podataka koji karakteriziraju stanje primljenog pacijenta. Drugi cilj može biti poboljšanje dijagnostike. Istraživač je sebi otežao zadatak jer je analizirao podatke samo onih pacijenata koji su već bili upućeni na odjel kardiologije. Bakst je koristio samo 20 parametara, među kojima su bili dob, spol, mjesto boli, odgovor na nitroglicerin, mučnina i povraćanje, znojenje, sinkopa, brzina disanja, otkucaji srca, prethodni srčani udari, dijabetes, hipertenzija, proširenje jugularne vene, niz EKG karakteristike i prisutnost značajnih ishemijskih promjena.

Mreža je bila 92% točna u otkrivanju infarkta miokarda i proizvela je samo 4% lažnih alarma, pogrešno potvrđujući upućivanje bolesnika bez infarkta na kardiološki odjel. Dakle, postoji činjenica o uspješnoj primjeni umjetnih neuronskih mreža u dijagnostici bolesti. Sada je potrebno objasniti u kojim se parametrima procjenjuje kvaliteta dijagnoze u općem slučaju. Pretpostavimo da od deset osoba koje stvarno dožive srčani udar, dijagnostička metoda može otkriti bolest kod osam. Tada će osjetljivost metode biti 80%. Ako uzmemo deset osoba koje nemaju infarkt, a dijagnostička metoda na njega posumnja kod tri osobe, tada će udio lažnih uzbuna biti 30%, dok će dodatna karakteristika uz to - specifičnost metode - biti 70%. %.

Idealna dijagnostička metoda treba imati stopostotnu osjetljivost i specifičnost - prvo, da ne propusti niti jednu stvarno bolesnu osobu i, drugo, da ne prestraši zdrave ljude. Da biste se osigurali, možete i trebate prije svega pokušati osigurati stopostotnu osjetljivost metode - ne možete propustiti bolest. Ali to u pravilu rezultira niskom specifičnošću metode - kod mnogih ljudi liječnici sumnjaju na bolesti od kojih pacijenti zapravo ne boluju.

Neuronske mreže za dijagnostičke zadatke

Neuronske mreže su nelinearni sustavi koji omogućuju mnogo bolju klasifikaciju podataka od uobičajenih linearnih metoda. Kada se primjenjuju u medicinskoj dijagnostici, oni omogućuju značajno povećanje specifičnosti metode bez smanjenja njezine osjetljivosti.

Podsjetimo, neuronska mreža za dijagnosticiranje srčanog udara radila je s velikim skupom parametara čiji se utjecaj na dijagnozu osobe ne može procijeniti. Ipak, neuronske mreže su mogle donositi odluke na temelju skrivenih obrazaca koje su identificirale u višedimenzionalnim podacima. Posebna značajka neuronskih mreža je da nisu programirane - ne koriste nikakva pravila zaključivanja za postavljanje dijagnoze, već su za to osposobljene na primjerima. U tom smislu, neuronske mreže nisu nimalo poput ekspertnih sustava, čiji se razvoj u 70-ima dogodio nakon privremene “pobjede” umjetne inteligencije nad pristupom modeliranju pamćenja, prepoznavanju uzoraka i generalizaciji, koji se temeljio na studiji neuralne organizacije mozga.

Jedan od najpoznatijih razvijenih ekspertnih sustava, čiji se rad temeljio na znanju eksperata i implementaciji postupaka zaključivanja, bio je sustav MYCIN. Ovaj sustav razvijen je na Stanfordu ranih 70-ih za dijagnosticiranje septičkog šoka. Polovica pacijenata umrla je od nje unutar jednog dana, a liječnici su mogli otkriti sepsu u samo 50% slučajeva. Činilo se da je MYCIN pravi trijumf tehnologije ekspertnih sustava, jer je mogao otkriti sepsu u 100% slučajeva. Međutim, nakon bližeg upoznavanja s tim ekspertnim sustavom, liječnici su značajno unaprijedili tradicionalne dijagnostičke metode, a MYCIN je izgubio na značaju, pretvarajući se u obrazovni sustav. Ekspertni sustavi "otišli" su samo u kardiologiju - za analizu elektrokardiograma. Složena pravila koja čine glavni sadržaj knjiga o kliničkoj EKG analizi korištena su od strane odgovarajućih sustava za izdavanje dijagnostičkog zaključka.

Dijagnostika je poseban slučaj klasifikacije događaja, a najvrjednija je klasifikacija onih događaja koji nisu u skupu za treniranje neuronske mreže. Ovdje se očituje prednost tehnologija neuronskih mreža - one su u stanju izvršiti takvu klasifikaciju, generalizirajući prethodno iskustvo i primjenjujući ga u novim slučajevima.

Specifični sustavi

Primjer dijagnostičkog programa je kardiodijagnostički paket koji je razvila RES Informatica zajedno s Centrom za kardiološka istraživanja u Milanu. Program omogućuje neinvazivnu kardiodijagnostiku temeljenu na prepoznavanju tahogramskih spektara. Tahogram je histogram intervala između uzastopnih otkucaja srca, a njegov spektar odražava ravnotežu aktivnosti ljudskog simpatičkog i parasimpatičkog živčanog sustava, koja se specifično mijenja kod raznih bolesti.

Na ovaj ili onaj način, već sada se može reći da se neuronske mreže pretvaraju u alat za kardiodijagnostiku - u Engleskoj se, primjerice, koriste u četiri bolnice za prevenciju infarkta miokarda.

U medicini se također koristi još jedna značajka neuronskih mreža - njihova sposobnost predviđanja vremenskih sekvenci. Već je navedeno da su ekspertni sustavi uspjeli u analizi EKG-a. Ovdje su korisne i neuronske mreže. Ki Zhenghu, Yu Henu i Willis Tompkins sa Sveučilišta u Wisconsinu razvili su sustav filtriranja neuronske mreže za elektrokardiograme koji može potisnuti nelinearni i nestacionarni šum puno bolje od prethodno korištenih metoda. Činjenica je da je neuronska mreža dobro predvidjela šum prema njegovim vrijednostima u prethodnim vremenskim točkama. A da su neuronske mreže vrlo učinkovite za predviđanje vremenskih sekvenci (kao što su tečajevi ili kotacije dionica) uvjerljivo su pokazali rezultati natjecanja prediktivnih programa koje je provelo Sveučilište Santa Fe - neuronske mreže su zauzele prvo mjesto i dominirale među najbolje metode.

Mogućnosti korištenja neuronskih mreža

EKG je privatna, iako iznimno važna aplikacija. Međutim, danas postoje mnogi drugi primjeri korištenja neuronskih mreža za medicinska predviđanja. Poznato je da su dugi redovi na odjelima kardiokirurgije (od tjedana do mjeseci) uzrokovani nedostatkom jedinica intenzivne njege. Nije moguće povećati njihov broj zbog visokih troškova reanimacije (Amerikanci potroše 70% sredstava u zadnja 2 tjedna života na ovom odjelu).

Jedini izlaz je učinkovitije korištenje raspoloživih sredstava. Pretpostavimo da je stanje pacijenata operiranih određenog dana toliko teško da im je potreban dug boravak u jedinici intenzivne njege (više od dva dana). Cijelo to vrijeme kirurzi će mirovati, jer novooperirane pacijente nemaju gdje smjestiti. Teške bolesnike pametnije je operirati prije vikenda ili praznika - operacijske sale su i ovih dana zatvorene, kirurzi će se odmarati, a pacijenti će se oporavljati na intenzivnoj njezi. Ali na početku radnog tjedna bolje je operirati one pacijente koji će morati biti na intenzivnoj njezi samo jedan ili dva dana. Tada će se kreveti na odjelu intenzivnog liječenja brže oslobađati i primati nove pacijente operirane u utorak i srijedu.

Pitanje je kako pogoditi tko će nakon operacije morati dugo ostati na odjelu intenzivne njege, a tko ne. Jack Too i Michael Guerier iz bolnice St. Michael's Sveučilišta u Torontu koristili su neuronske mreže da bi napravili ovo predviđanje. Kao početne podatke uzeli su samo one podatke o pacijentu koji su poznati u prijeoperacijskom razdoblju. Napominjemo da su u prethodnim studijama koje nisu koristile neuronske mreže važne postoperativne informacije također korištene kao čimbenici povećanog rizika boravka na intenzivnoj njezi – razne komplikacije nastale tijekom kirurške intervencije.

Tu i Guerir uvježbali su dvoslojni perceptron da podijeli pacijente u tri rizične skupine, uzimajući u obzir njihovu dob, spol, funkcionalno stanje lijeve klijetke, stupanj složenosti nadolazeće operacije i prisutnost popratnih bolesti. Od onih pacijenata koje je mreža identificirala kao one s niskim rizikom odgode intenzivne njege, samo 16,3% je zapravo provelo više od dva dana na intenzivnoj njezi. Istodobno, preko 60% onih koje je mreža identificirala kao visokorizične opravdalo je nepovoljnu prognozu.

Borba protiv raka

Posebnu pozornost posvetili smo kardiovaskularnim bolestima, budući da one drže tužno vodstvo na popisu uzroka smrti. Na drugom mjestu su onkološke bolesti. Jedno od glavnih područja u kojima se trenutno radi na korištenju neuronskih mreža je dijagnostika raka dojke. Ova bolest je uzrok smrti svake devete žene.

Otkrivanje tumora provodi se tijekom inicijalne rendgenske analize dojke (mamografija) i naknadne analize djelića tumorskog tkiva (biopsija). Unatoč postojanju općih pravila za razlikovanje dobroćudnih i zloćudnih novotvorina, prema mamografiji samo 10 do 20% rezultata naknadne kirurške biopsije doista potvrđuje postojanje raka dojke. Opet imamo posla sa slučajem izrazito niske specifičnosti metode.

Istraživači sa Sveučilišta Duke istrenirali su neuronsku mrežu da prepozna mamograme malignog tkiva na temelju osam značajki s kojima se radiolozi obično bave. Pokazalo se da mreža može riješiti problem s osjetljivošću od oko 100% i specifičnošću od 59% (usporedite s 10-20% za radiologe). Koliko se žena s dobroćudnim tumorima pomoću ove neuronske mreže može spasiti od stresa uzimanja biopsije! U klinici Mayo (Minnesota) neuronska mreža je analizirala rezultate ultrazvuka dojke i dala specifičnost od 40%, dok se za iste žene pokazalo da je specifičnost zaključka radiologa nula. Nije li istina da uspjeh korištenja tehnologija neuronskih mreža ne izgleda nimalo slučajno?

Nakon liječenja raka dojke moguća je ponovna pojava tumora. Neuronske mreže već pomažu u njihovom učinkovitom predviđanju. Slična istraživanja provode se na Medicinskom fakultetu Sveučilišta u Teksasu. Uvježbane mreže pokazale su svoju sposobnost identificiranja i uzimanja u obzir vrlo složenih odnosa prediktivnih varijabli, posebice njihovih trostrukih odnosa kako bi se poboljšala prediktivna sposobnost.

Mogućnosti korištenja neuronskih mreža u medicini su raznolike, a njihova arhitektura je raznolika. Na temelju prognoze dugoročnih rezultata liječenja bolesti jednom ili drugom metodom, može se dati prednost jednoj od njih. Značajan rezultat u prognozi liječenja raka jajnika (bolesti svake sedamdesete žene) postigao je poznati nizozemski specijalist Herbert Kappen sa Sveučilišta u Nimegenu (on u svom radu ne koristi višeslojne perceptrone, već tzv. Boltzmann Strojevi – neuronske mreže za procjenu vjerojatnosti).

Evo primjera druge vrste raka. Istraživači s medicinskog fakulteta u Kagawi u Japanu uvježbali su neuronsku mrežu koja je predviđala rezultate resekcije jetre kod pacijenata s hepatocelularnim karcinomom s prijeoperacijskim podacima gotovo bez pogrešaka.

U Troitsk Institute for Innovation and Fusion Research (TRINITI), u sklopu projekta stvaranja sustava savjetovanja neuronske mreže koji provodi Ministarstvo znanosti, razvijen je program neuronske mreže koji odabire metodu liječenja raka kože bazalnih stanica (bazalioma ) na temelju dugoročne prognoze recidiva. Broj slučajeva bazalioma - onkološke bolesti ljudi bijele puti s tankom kožom - čini trećinu svih onkoloških bolesti.

Dijagnostika jednog od oblika melanoma - tumora, koji je ponekad teško razlikovati od pigmentiranog oblika bazalioma, provedena je pomoću simulatora neuronske mreže Multineuron koji je razvijen u Računalnom centru SOAN-a u Krasnojarsku pod vodstvom A. N. Gorbana.

Kratki opis

Neuronske mreže za dijagnostičke zadatke

Specifični sustavi

Mogućnosti korištenja neuronskih mreža

Borba protiv raka

Neurosustavi, genetika i molekule

Neuronske mreže hodaju planetom