Összefoglaló közlemények / Reviews
History of artificial intelligence
Summary
Technological advances of artificial intelligence were developed in recent decades, offering an opportunity to benefit gastroenterological practice. The precursors of artificial intelligence occured in the ancient times and gradually developed over the past centuries. The current conceptions and vocabulary of artificial intelligence (deep learning, machine learning, neural networks, fuzzy logic) were developed from the 1950’s onwards. Hungarian scientists made a significant contribution to this process. Methods of artificial intelligence are applied more and more in different fields of gastroenterology (diagnosis of Helicobacter pylori infection, tumours, inflammatory bowel disease, imaging studies, drug development). Original methods of artificial intelligence are developed and applied in some Hungarian endoscopic centers.
A mesterséges intelligencián alapuló vizsgálati módszerek az utóbbi évtizedekben terjedtek el az orvostudományban, így a gasztroenterológiában is. A mesterséges intelligencia előfutárai az ókorban jelentek meg, és szakaszosan fejlődtek az eltelt évszázadok során. A mai értelemben vett mesterséges intelligencia fogalmai (mélytanulás, gépi tanulás, neurális hálózatok, fuzzy logika) az 1950-es évektől alakultak ki. Magyar tudósok számos jelentős elméleti és gyakorlati megoldással járultak hozzá e folyamathoz. A mesterséges intelligencia módszereit egyre szélesebb körben alkalmazzák a gasztroenterológia számos területén (Helicobacter pylori diagnosztika, daganatos betegségek, gyulladásos bélbetegségek, képalkotó módszerek, gyógyszertervezés). Kialakulóban vannak hazai centrumok, ahol a mesterséges intelligencia saját fejlesztésű módszereit alkalmazzák.
A mesterséges intelligencia (MI, AI) kutatása és alkalmazása egyre nagyobb teret nyert az utóbbi évtizedekben, elterjedt az orvostudományban is, befolyásolva nemcsak az orvosi gondolkodást, de az egészségügyi ellátást is, annak egyelőre sejthető és előre nem látható gyakorlati, jogi és etikai következményeivel (1, 2). A témával kapcsolatos kutatások száma exponenciálisan növekszik: az 1. táblázat ezek irodalmi lábnyomát tünteti fel a Pubmed alapján (http://www.pubmed.nhi.com, kapcsolódva: 2021. május 15.).
1. táblázat: A mesterséges intelligencia lábnyoma az orvosi irodalomban
A gépi tanulás rövidesen tantárgy lesz, az interneten 895 $-ért már 4 napos tanfolyamot lehet végezni (https//statisticalhorizons.com/seminars/public-seminars/machinelearning, csatlakozva: 2021. április 20.). Időszerű tehát az MI történetének áttekintése, kiemelve a magyar tudósok hozzájárulásait.
1. ábra: Kempelen Farkas sakkozógépe (Joseph von Racknitz [1744–1818] rajza, Drezda, 1789)
A mesterséges intelligencia előfutárai
Bár az MI (AI) fogalma az 1950-es években alakult ki, az emberiség régi szándéka volt, hogy egyes tevékenységeit gépekkel helyettesítse. Ezt elsőként Arisztotelész (Kr. e. 384–324) fogalmazta meg Politika c. művében: elképzelése szerint az általa automatonnak nevezett berendezések képesek a rabszolgák munkájának elvégzésére: mindegyik egy bizonyos tevékenységet tudna vezényszóra elvégezni. Ötlete sohasem valósult meg, de Organon (= görögül szerszám) c. munkájában lefektette a logika és a szillogizmus alapjait: ezeket később a matematikában és az MI módozatainak kidolgozásában fogják alkalmazni. Euklidész (Kr. e. 300 körül) Elemek c. munkájában írta le a számelméleti algoritmust, amellyel két szám legnagyobb közös osztója határozható meg: munkája arab fordításban maradt fenn, majd 1482-ben jelent meg mint az első latin nyelvű matematikai könyv. Az algoritmus kifejezés azonban a Bagdadban élt perzsa Mohammed ibn Musa al-Khvarizmitől (Kr. u. 780–850) származik, aki matematikai, csillagászati és földrajzi tanulmányai mellett zsidó kalendáriumot is szerkesztett. A bagdadi Bölcsek Háza könyvtárát vezette, és az algoritmus szó nevének latinizált változata (3–5).
2. ábra: Lenhossék Mihály könyvének fedőlapja és felvétele (30 cm hosszú emberi foetus gerincvelő metszetében látható neurális hálózat Golgi-féle ezüstnitrátos festéssel)
Az elmúlt két évezredben számos olyan gépet, játékot, eszközt, szerkezetet terveztek, amelyek az MI előfutárainak tekinthetők: néhányat – a teljesség igénye nélkül – a 2. táblázatban mutatok be.
A 19. század végén olyan élettani, neurológiai és szövettani felfedezések történtek, amelyek utóbb beépültek az MI fogalmaiba, hiszen azok az idegrendszer szerkezeti mintájára alakultak ki. A neuron kifejezést Galénosz (Kr. u. 129–200) használta először, felismerve, hogy az izmokat az idegek mozgatják; mai értelemben az idegsejt elnevezése Heinrich Wilhelm Gottfried Waldeyer (1836–1921) berlini szövettanásztól származik, aki 1891-ben vezette be a terminust; ő használta először a kromoszóma kifejezést is. Szövettanilag a neuront 1888-ban mutatta ki ezüstnitrát festéssel Santiago Ramon y Cajal (1853–1934) (Nobel díj: 1906) Zaragozában. Vele majdnem egy időben, 1893–1895 között végzett idegrendszeri kutatásokat Lenhossék Mihály (1863–1937): munkája elérhető az interneten (Der feinere Bau des Nervensystems im Lichte neuester Forschungen, Fischer’s Medicinische Buchhandlung, Berlin 1893, http://archive.orgh/details/derfeinerebaudes00lenh/page/n5), történeti érdeklődésű hálózatkutatóknak tanulságos olvasmány lehet (2. ábra). A mai MI-ben a konvolúciós neurális hálózat az agytekervények mintázatát reprodukálja.
2. táblázat: A mesterséges intelligencia kialakulása
A mesterséges intelligencia fejlődése a 20. században
Az ideghálózat első matematikai megközelítését Warren McCulloch (1898–1969) és munkatársa végezte 1943-ban a chicagói egyetem pszihiátriai tanszékén, felismerve, hogy az idegrendszer „mindent vagy semmit” elv alapján működik, így matematikailag modellezhető: ezáltal létrehozható a mesterséges neuron (6). Az általuk megalkotott modell tekinthető a mesterséges neurális hálózat ősének. Az MI kialakulásához olyan világhíres matematikusok járultak hozzá, mint Erdős Pál (1913–1996), Rényi Alfréd (1921–1970), valamint a játékelmélet és a modern számítógépek atyja, Neumann János Lajos (1903–1957). Neumann részt vett a Manhattan-tervben az atom- és hidrogénbomba kifejlesztésében. Munkája során olyan összefüggéseket fedezett fel, amelyek hagyományos matematikai módszerekkel nem oldhatók meg, így érdeklődése a nagysebességű elektronikus számítógépek felé fordult. 1944–1952 között részt vett az ENIAC (Electronic Numerical Integrator And Computer) és az EDVAC (Electronic Discrete Variable Automatic Computer) programtároló számítógép tervezésében, és kidolgozta a számítógépek belső szervezésének elvét: ezt ma Neumann-elvnek nevezik. Az ENIAC egy egész termet elfoglalt, 1700 vákuumcsövet tartalmazott, 30 tonnát nyomott, és óránként 100-150 kilowatt áramot fogyasztott, 10-es számrendszerben (numerikusan), és nem binárisan számolt: 1955-ig működött (3. ábra). A korszakra jellemzően létezett egy Z3-AS német és British Colossus angol számítógép is, de ezek nem voltak teljesen elektronikusak. Magyar hozzájárulás a Kemény János (1926–1992) által megalkotott BASIC nyelv, illetve a Szilárd Leó (1898–1964) által meghatározott elemi információs kvantum, a bit (igen/nem) fogalma is (3).
3. ábra: Az ENIAC számítógép képe (Neumann János és munkatársai, 1944) (Forrás: Wikipédia)
Az MI kialakulásában fontos szerepet tulajdonítanak Alan Mathison Turingnak (1912–1954), aki az 1930-as években kidolgozta a programozható számítógép matematikai modelljét: azt Turing-gépnek nevezték el. 1950-ben jelent meg szakirodalmi klasszikusa arról, hogy tudnak-e a gépek gondolkozni (7). Kidolgozta a Turing-tesztet, amely abból áll, hogy a bíráló egy billentyűzet és egy monitor segítségével kérdéseket tesz fel két alanynak, akiket nem lát és hall, az egyik ember, a másik gép. Ha a kérdező öt perc alatt nem tudja egyértelműen megállapítani, hogy melyik a gép, akkor az sikerrel teljesítette a tesztet. Turing úgy vélte, 2000-re olyan programot alkotnak, amely 5 perc alatt 70%-os eséllyel különbséget tehet ember és gép között: ez nem sikerült (8, 9).
1942-ben megfejtette a német haditengerészet Enigma titkosírását: ezt Winston Churchill (1874–1965) is nagyra értékelte. A háború után a sorsa rosszra fordult: az érdemei ellenére a homoszexuális kapcsolata miatt elítélték. 1954-ben ciánkálival öngyilkos lett.
3. táblázat: A mesterséges intelligencia fogalmai
Az MI kialakulását elősegítette Norbert Wiener (1894–1964) amerikai matematikus és filozófus, aki 1948-ban a kibernetikát az ember és a gépek közötti kommunikáció tudományának vélte, valamint a magyar felmenőkkel rendelkező osztrák Ludwig von Bertalanffy (1901–1972) osztrák biológus általános rendszerelmélete.
A mai értelemben vett MI fogalmát John McCarthy (1927–2011) informatikus javasolta 1956-ban a New Hampshire-i Dartmouth Egyetem konferenciáján, és azt a jelen lévő szakemberek elfogadták (11). Célja az volt, hogy megkülönböztesse a kibernetikától. Az MI elterjedése párhuzamos volt az új technológiai újítások bevezetésével: az 1980-as években jelentek meg a fém-oxid félvezetők (MOS: metal-oxide semiconductor) és a komplementer félvezetők (CMOS): ezek tették lehetővé a neurális hálózatok fejlesztését.
Az orvostudományban elsőként a Stanford Egyetemen Joshua Lederberg (1925–2008) genetikus és munkatársai az 1960-as években alkalmaztak okos algoritmusokat a szerves vegyületek spektrometriai adatainak elemzésében, de a Nobel-díjat a plazmidok felfedezéséért kapta (1958). Az általuk kidolgozott DENDRAL (= dendritic algorithm) program számos további MI-módszer kialakulásához vezetett (11).
Az 1950-es évek óta az MI több módozata alakult ki: meghatározásukat glosszaként a 3. táblázatban ismertetem.
- A gépi tanulás kifejezést Arthur Samuel Lee (1902–1990) vezette be 1959-ben: az IBM-nél olyan számítógépet tervezett, amely dámajátékot tudott játszani. Elsők között alkalmazta a számítógépekben a tranzisztorokat.
- A mélytanulás módszerét először 1965-ben használta Alekszej Ivaknenko (1913–2007) ukrán-szovjet matematikus, de csak 1986 után kezdték széleskörűen alkalmazni. Használták a beszédfelismerésben, idegen nyelvek fordításában, gyógyszertervezésben, festészeti stílusok, arcképek felismerésében és azonosításában, de alkalmazásra lelt az üzleti életben és szerencsejátékokban is (3).
- A fuzzy logika fogalmát (elmosódott halmazok logikája) 1965-ben vezette be Lotfi Zadeh (1821–2017) matematikus-informatikus a berkeley-i Kaliforniai Egyetemen. Eredete az ókori görög filozófusokig vezethető vissza. Szemben a hagyományos igen/nem alapú (1 vagy 0) logikával, az FL folytonosan értékeli a valódi értékek megoszlását. 1973 óta elterjedt a háztartási elektronikus gépekben, szórakoztatóiparban, színesfilm-gyártásban, fényképezőgépekben, a gépjárművek lopásgátló berendezéseiben, de az orvosi készülékekben is (pl. hőmérő, vérnyomásmérő) (3).
A konvolúciós neurális hálózat (KNH) az MI legelterjedtebb módozata az orvosbiológiai kutatásokban. Fejlesztésében döntő előrelépés volt a Frank Rosenblatt (1928–1971) által 1957-ben kidolgozott perceptron algoritmus, amely lehetővé tette a mintázatfelismerést: a berendezés IBM 704-es számítógépen a Cornell laboratóriumban (Ithaca, New York állam) működött. Találmánya nemzetközileg is elismert lett, a Mark I nevű perceptron a washingtoni Smithsonian intézetben van kiállítva. A mintázatfelismerés akkoriban az arcfelismerésre korlátozódott: kezdete 1852-re vezethető vissza, amikor angliai börtönökben bevezették a fogvatartottak fényképes nyilvántartását. A kezdetben kétrétegű perceptront Marvin Minsky (1928–2016) és munkatársai továbbfejlesztették: a többrétegű berendezésükben még több ezer vákuumcső működött (3, 11). Ezután kifejlesztették a többrétegű mesterséges neurális hálózatokat (ANN), amelyek számos változatát használják a mai orvosbiológiai kutatásokban, köztük a gasztroenterológia számtalan területén [(Helicobacter pylori fertőzés kimutatása (12, 13), gyomor- (14) és pancreasrák (12), vastagbélpolipok szövettani megítélése (12), a gyulladásos bélbetegségek szövettani elemzése (15)]. A hepatológiában a májdaganatok képalkotó és szövettani diagnózisában és a fibrózis fokozatának megítélésében alkalmazzák az MI-t (16).
Mesterséges intelligencia a gasztroenterológiában: hazai tapasztalatok
Az MI hazai meghonosítása Roska Tamás (1940–2014) akadémikus nevéhez fűződik, aki az 1980-as években munkatársával, a kínai–Fülöp-szigeteki–amerikai Leon O. Chuával (1936) a berkeley-i Kaliforniai Egyetemen kifejlesztette a celluláris neurális számítógépet és az ahhoz kapcsolt chipet. Hámori Józseffel (1932–2021) közösen végzett kutatásai a bionikus szemprotézis kifejlesztését tűzték ki célul. Munkáját fia, Roska Botond neurobiológus Zürichben sikerrel folytatja.
A budapesti II. Belgyógyászati Klinika és az Országos Onkológiai Intézet közös munkacsoportja elsőként tanulmányozta a gyomor daganatainak citogenetikai kiértékelését a fuzzy logikán és KNH-n alapuló MI-módszerrel, és azt észlelték, hogy az esetek 95%-ában lehetséges a normális, dysplasiás és tumoros esetek elkülönítése (17). 1998-as összefoglaló közleményükben Molnár Béla és munkatársai az akkori irodalom alapján elsősorban az emésztőszervi tumorok és a képalkotó módszerek területén látták az MI fő alkalmazási lehetőségeit (18).
Az MI gyakorlati alkalmazása megkezdődött hazai endoszkópos centrumokban is. Több egyetemi és megyei oktatókórházban dolgozó kutatócsoport Fujinon 760 Eluxeo endoszkóppal 2000 vastagbélpolip adatait elemezte. A felvételeket WL, BLI és CLI módban készítették, majd PolyBrain számítógépes programmal tesztelték, és összevetették a polipok szövettani eredményével. A munkacsoport tapasztalata szerint az MI-alapú program diagnosztikus teljesítménye azonos volt a tapasztalt (expert) endoszkópos szakemberek által elért pontossággal, igazolva az MI noninferior voltát (19, 20). Az eddigi tapasztalatokról Lovász Barbara Dorottya tartott Magyar Imre-emlékelőadást a 62. MGT-nagygyűlésen (21). Rácz Istvántól (Petz Aladár Megyei Oktató Kórház, Gasztroenterológia) hallhattunk előadást az MI alkalmazásáról a vastagbélpolipok felismerésében, bemutatva saját tapasztalatát is (22).
Az endoszkópia mellett az MI helyet követel magának a képalkotó (CT, MRI) diagnosztikában: a témáról eddig összefoglaló közlemények jelentek meg, előrevetítve a jövőbeni lehetséges alkalmazást (23, 24).
Az alapkutatásban kiemelkedő Barabási Albert-László tevékenysége, aki a bostoni Northeastern egyetemen közel 20 éve foglalkozik a hálózatkutatással, kimutatva a daganatos betegségek és egyes gének (Kras, p53, Erb2) közötti összefüggéseket. Az emberi betegségek alkotta hálózatok kutatásának nagy jövője van a patogenetikai ismeretek, osztályozások módosításában és az egyénre szabott gyógyszeres kezelésben (25). Csermely Péter a Semmelweis Egyetem Biokémiai intézetében az idegsejtek tanulás által keletkezett biokémiai folyamatában végzett nemzetközileg is jegyzett kutatásokat, kimutatva a jelátviteli hálózatok jelentőségét a gyógyszermolekulák tervezésében (26). Mátyus Péter az MI lehetőségeit elemezte az innovatív gyógyszerkutatásban (27). Remélhetőleg mindezen területeknek lesz gyakorlati alkalmazása a gasztroenterológiában.
A mesterséges intelligencia alkalmazásának etikai kérdései
Mint a tudomány legtöbb területén, az új ismeretek és módszerek bevezetése előbb-utóbb etikai kérdéseket vet fel. Az MI alkalmazásában többszörös hibalehetőség van, amelyeknek jogi és etikai elbírálása még nem tisztázott: az MI létezik, de mesterséges jog és etika nem ismert (2, 3).
- Adatfeldolgozás. Az MI adatok elemzéséből épül fel, amelyeknek minősége és mennyisége meghatározza az eredményességet. Minőségi eredményt csak minőségi adatokból lehet elérni. Mivel a bizonyítékokon alapuló ajánlások jórészt metaanalíziseken alapulnak, téves adatokból téves ajánlások, ebből pedig téves gyakorlat származhat. A metaanalízisek adatbázisát kutatók állítják elő, ezzel szemben az MI gépek, berendezések által érzékelt adatokból dolgozik: az algoritmusok hatalmas, de emberektől származó adatmennyiséget dolgoznak fel. Ebben a szakaszban felmerül a hibás adatrögzítés, illetve az adatvédelem: hozzáértő személy számára a betegek adatai elérhetővé válnak, hackerek csapata az egészségügyben is működhet: az ellenük való védekezés állandó feladat. Itt is érvényes, hogy pontos adatbázist csak pontos adatokból lehet generálni (1).
- Az MI másik etikai problémája a tévedések esetén felmerülő etikai, szakmai és jogi felelősség. Konszenzus szerint egészségkárosodás esetén téves diagnózis/beavatkozás/kezelés miatt az azt javasoló szakember felelősségre vonható, ha az MI-módszert nem rendeltetésszerűen használta. Kevésbé tisztázott, mennyire vonható felelősségre az MI-t készítő cég/kutatócsoport/személy (1). Precedensértékű esetekről az áttekintett irodalom nem tesz említést.
- Végezetül állandó vita forrása, hogy mennyiben fog vezetni az MI orvosi/szakdolgozói munkanélküliséghez. Optimista forgatókönyv szerint az emberi munka és az MI kiegészíti egymást, mások jelentős munkanélküliséget vizionálnak, magasan képzett, de fölösleges emberek generálásával (2).
- Mindezek a problémák felvetik az MI fejlődésének és fejlesztésének szoros ellenőrzését: ezt – az antibiotikumkezelés mintájára – „AI stewardshipnek” nevezik. Szem előtt kell tartani, hogy az MI nem emberfeletti, és tévedni is képes, ezért alkalmazásukban előnyben kell részesíteni a felügyelt tanulást a nem felügyelttel szemben, illetve az MI által asszisztált gyógyítást az MI vezette gyógyítással szemben (28).
Köszönetnyilvánítás
A dolgozat áttekintéséért köszönettel tartozom dr. Tuza Zsolt professzor úrnak (Pannon Egyetem, Veszprém). Az angol összefoglaló lektorálását köszönöm Douglas Arnott úrnak (EDMF Language Services Kft., Budapest), a dolgozat szövegszerkesztéséért Józan Jolánnak jár köszönet.
2. Csepeli Gy. Ember 2.0. Kossuth Kiadó, Budapest. 2020; 1–241.
3. Picklover CA. From medical robots to neural networks. Artificial intelligence, an illustrated history. Sterling, New York. 2019; 1–213.
4. Lozsádi K. Etymologia medica. Orvosi szótörténeti tár. Medicina Könyvkiadó Rt. Budapest. 2006; 61.
5. Sebastian A. A Dictionary of the History of Medicine. Parthenon Publishing, London. 1999.
6. McCullogh WS, Pitts W. A logical calculus of the ideas immanent in nervous activity. Bull Mathematical Biol. 1943; 5: 115–133. reprinted: idem, 1990; 52: 99–115.
7. Dénes TZ. Turing-teszt az információs társadalomban, avagy valós vagy virtuális e-társadalom? Társadalomkutatás. 2003; 21: 275–310.
8. Turing AT. Computing machinery and intelligence ( http://www.csee.um,bc.edu/courses/471/papers/turing.pdf ). Kapcsolódás: 2021. 05. 05.
9. Turing-teszt, https://hu.wikipédia.org.wiki/Turing teszt. (Kapcsolódás: 2021. 05. 05.)
10. Samuel, Arthur L. Some Studies in Machine Learning Using the Game of Checkers. IBM Journal of Research and Development. 1959; 44: 206–226.
11. Shortliffe EH. Artificial intelligence in medicine: weighing the accomplishments, hype and promise. Yearbook Med Inform 2019; 257–262.
12. Yang JY, Bang CS. Application of artificial intelligence in gastroenterology. World J Gastroenterol 2019; 25: 1666–1683.
13. Itoh T, KaWAHIRA H, Nakashima H et al. Deep learning analyzes Helicobacter pylori infection by upper gastrointestinal endoscopy images. Endoscopy Int Open 2018; 6: E319–E144.
14. Hirasawa T, Aoyama K, Takimoto T et al. Application of artificial intelligence using a convolutional neural network for detecting gastric cancer in endoscopic images. Gastric Cancer. 2018; 21: 653–660.
15. Udriştoiu AL, Stefănescu D, Gruionu G et al. Deep learning algorithm for the confirmation of mucosal healing in Crohn disease, based on confocal endomicroscopy images. J Gastrointest Liv Dis. 2021; 30: 59–65.
16. Le Verre C, Sandborn WJ et al. Application of artificial intelligence to gastroenterology and hepatology. Gastroenterology. 2020; 158: 76–94.
17. Molnár B, Szentirmay Z, Bodó M et al. Többváltozós matematikai eljárások alkalmazása az orvosdiagnosztikai rendszerekben – Egy modell a citológiai kenetek kiértékelésére. Orv. Hetil. 1983; 133: 2697–2701.
18. Molnár B, Papik K, Schaefer R et al. A mesterséges neurális hálózatok orvosi alkalmazásai. Orv Hetil. 1998; 139: 3–9.
19. Szalai M, Oczella L, Dubravcsik Z, et al. Differentiation between neoplastic and non-neoplastic diminutive colorectal polyps with Fujinon Blue Light imaging electronic chromoendoscopy with and without optical magnification – A randomized, prospective, multicenter trial. Endoscopy. 2018; 50(04): S2.
20. Lovász BD, Finta Á, Zsobrák K et al. Mesterséges intelligencia alkalmazásának lehetőségei a gasztroenterológiában és az endoszkópiában. Central Eur J Gastroenterol Hepatol. 2020; 6: 2–9.
21. Lovász BD. Magyar Imre Emlékelőadás. Neoplasztikus és nem-neoplasztikus polypok valós idejű optikai diagnózisa vastagbéltükrözés során mesterséges intelligencia alapú döntéstámogatórendszer (Polypbrain®) segítségével. MGT 63. Nagygyűlés, 2021. 6. 4.
22. Rácz I. A mesterséges intelligencia a colon polipok megismerésében. XXI. Gasztroenterológiai Továbbképző Tanfolyam. Budapest. 2021. február 2.
23. Baranyi T, Martos J, Geszler J, et al. Fejlesztési trendek a CT- és MRI-diagnosztikában. Magyar Onkológia. 2020; 64: 139–144.
24. Emri M. A mesterséges intelligencia módszerei és alkalmazásuk a képalkotó diagnosztikában. Magyar Onkológia. 2020; 64: 145–152.
25. Barabási A-L, Gulbahce N, Loscalzo J. Network medicine: a network-based approach to human disease. Nat Rev Genet. 2011; 123: 56–68.
26. Csermely P, Kunsic N, Mendik P et al. Learning of signaling networks: molecular mechanisms. Trend Biochem Sci. 2020; 45: 284–294.
27. Mátyus P. Több támadáspontú gyógyszerek: múlt, jelen, jövő. Orv Hetil 2020; 161: 523–531.
28. Ruffle JK, Farmer AD, Aziz Q. Artificial intelligence – assisted gastroenterology – promises and pitfalls. Am J Gastroenterol. 2019; 114: 422–428.