проверени факти рецензирана публикација
доверлив извор
лекторирани
by Adam Hadhazy, Stanford University
Етичките рамки во медицината одат барем уште од Хипократовата заклетва во 400 п.н.е. Со вештачката интелигенција (ВИ) што сега брзо се забрзува во здравствените поставки – потврдено со над 500 уреди со вештачка интелигенција одобрени од Администрацијата за храна и лекови, главно само во последните две години – потребни се нови рамки за да се обезбеди соодветна употреба на овој нов модалитет .
За таа цел, меѓународната иницијатива SPIRIT-AI и CONSORT-AI неодамна воспостави упатства за вештачка интелигенција и машинско учење во медицинските истражувања. Овие рамки, сепак, не наведоа специфични размислувања за педијатриските популации. Децата претставуваат уникатно сложени дилеми за податоци за вештачката интелигенција, особено во однос на согласноста и правичноста.
За да се реши оваа празнина, Виџајта Мурали од Универзитетот Стенфорд и Алиса Бургарт напишаа перспективна политика со инструкторката за биомедицински податоци од Стенфорд, Роксана Данешџу и професорката по здравствена политика Шери Роуз за списанието npj Digital Medicine. Мурали е подружница за постдокторски истражувања по дерматологија на Медицинскиот факултет на Универзитетот Стенфорд; Бургарт е клинички вонреден професор по анестезиологија, со заеднички преглед во Центарот за биомедицинска етика Стенфорд и медицински директор за етика во детската болница Лусил Пакард.
Мурали, Бургарт и колегите предлагаат нова рамка наречена ACCEPT-AI. Во ова интервју, Мурали и Бургарт разговараат за мотивацијата зад ACCEPT-AI и како тоа може да помогне етички да се унапредат медицинските истражувања за вештачка интелигенција во кои се вклучени педијатриски пациенти.
Бургарт: Во текот на мојата кариера, гледав како вештачката интелигенција оди од нешто што го гледаме во научно-фантастичните филмови до сега како експлодира во јавните сфери што влијае на нашето здравје. Во овој момент, треба да откриеме како правиме добра работа, како правиме етичка работа и како да напредуваме во овие нови технологии наместо да чекаме да има катастрофи.
Мурали: Иако протоколите SPIRIT-AI и CONSORT-AI формираа силна основа за етичко медицинско истражување за вештачка интелигенција, една одредена област каде што сè уште ни треба специфично водство е децата како посебна популација. Целта со ACCEPT-AI е да ги води истражувачите, лекарите, регулаторите и креаторите на политики низ секоја фаза од животниот циклус на вештачката интелигенција, од селекција на проблеми до собирање податоци, преку дефиниција на исходот, развој на алгоритам и размислувања по распоредувањето до безбедно користење на педијатриски податоци.
Бургарт: Кога користат или прават збирки на податоци кои вклучуваат информации за педијатриски пациенти, истражувачите на вештачката интелигенција не се нужно свесни за специјалните заштити што треба да се земат предвид. Со ACCEPT-AI, се надеваме дека ќе обезбедиме начин за истражувачите на вештачката интелигенција да ја направат својата најдобра работа.
Бургарт: Согласност. За децата, тие имаат родител кој официјално ќе даде согласност со потпишување на одредена документација. Но, како што овие деца стареат, како ги третираме нивните податоци? Реалноста е дека ако ги ставате податоците на детето во овие алгоритми, треба добро да разбереме што ќе се случи со тие податоци ако детето е постаро и сака податоците да се отстранат. Треба навистина да размислиме не само за таа согласност во моментов, туку и како изгледа таа согласност да се движиме напред. Генерално, сакаме да можеме да ги вклучиме децата во истражувањето на развојно соодветни начини кои го почитуваат нивното достоинство како човечки суштества.
Мурали: И тука постои загриженост за практичноста, бидејќи кога податоците ќе влезат во алгоритам, тешко е да се вратат. Исто така, постои голема разлика помеѓу начинот на кој се постапува со податоците ширум светот. Општата регулатива за заштита на податоците на Европската унија им дозволува на луѓето да ги извадат своите податоци ретроспективно, но во моментов немаме конкретен правен механизам за да го сториме тоа во САД. многу години по патот, долгорочната согласност станува тежок проблем.
Мурали: Сакаме да имаме безбедносни механизми за да не ги генерализираме погрешно податоците за возрасните во педијатриската популација, или обратно. Во споредба со возрасните, децата – кои се разбира можат да бидат на возраст од нула до 18 години – имаат многу поширок опсег на големина, развој и други анатомски и физиолошки променливи.
Бургарт: Ако има мешање на двата типа на податоци, тогаш алгоритмите за вештачка интелигенција може да направат несоодветни генерализации, а тоа е навистина голема безбедносна точка. Во моментов, нема заштитни шини за да се разликуваат двата типа на податоци.
Мурали: Овој недостаток на диференцијација доведува до загриженост дека алгоритмите за вештачка интелигенција може да работат подобро на податоци за возрасни отколку за педијатриски податоци, бидејќи алгоритмите се обучени главно или дури и исклучиво со податоци за возрасни, кои се многу полесно достапни.
Голема компонента на ACCEPT-AI е дискусијата за она што ние го нарекуваме „алгоритамска пристрасност поврзана со возраста“. Ако истражувачите на вештачката интелигенција не ги разликуваат или не ги разјаснат од самиот почеток типовите на податоци и возраста на популацијата на пациенти од кои податоците се извлекуваат кога се развива алгоритам, тогаш алгоритмот ќе произведе резултати кои можеби не се поволни за педијатриската популација. . Се надеваме дека ќе го решиме ова прашање со транспарентност за возраста, повикана од ACCEPT-AI, така што истражувачите јасно знаат што влегува и што излегува од алгоритам.
Бургарт: Пристрасноста во збирките на податоци за истражување, се разбира, не е нова за вештачката интелигенција. Има толку многу медицински препораки што ги даваме, а кои навистина се засноваат на стандардниот белец од 70 килограми. Знаеме дека пристрасноста била внесена во донесувањето одлуки и клиничкото образложение во минатото, така што се надеваме дека ако продолжиме да развиваме и имплементираме рамки како ACCEPT-AI дека можеме да имаме подобар квалитет и побезбедни податоци кои ќе имаат поголема корист за пациентите .
Мурали: Капиталот е тема низ нашата перспектива на npj дигитална медицина. Во развојот на алгоритми за вештачка интелигенција, почетната точка е дека е важно децата да се вклучат во технолошките иновации што ги претставуваат овие алгоритми, кои веруваме дека имаат потенцијал да ја трансформираат здравствената заштита.
На практично ниво, тоа значи дека треба да сместиме различни групи со застапеност низ возрасните опсези. Исто така, треба да вклучиме недоволно застапени истражувачки групи, како што се етничките малцинства. Треба да вклучиме и различни социо-економски групи, а не само во иста земја. Има многу истражувања за вештачката интелигенција во тек во земјите со повисоки приходи, но многу малку се случуваат, или барем тоа се одржува, во земјите со пониски приходи. Овие предизвици стануваат уште потешки кога се прошируваат на педијатриските популации кои се потешко достапни и кои се вклучени во медицинските истражувања.
Мурали: Имавме среќа да добиеме голем заеднички интерес. Во контакт сме со неколку групи во Обединетото Кралство, вклучувајќи ги и оние кои ги развија упатствата SPIRIT- и CONSORT-AI. Друга е работната група на Меѓународната телекомуникациска унија на Светската здравствена организација, фокус група за вештачка интелигенција за здравје, каде што неодамна го вклучивме ACCEPT-AI во претстојното упатство за политика на СЗО. Исто така, упатуваме повик до пошироката заедница за секој кој е заинтересиран да учествува во преминувањето кон следните чекори, каде што бараме да развиеме консензусна изјава меѓу повеќе засегнати страни и да ги формализираме препораките. Ќе ни биде драго да му посакаме добредојде на некој од заедницата на Стенфорд да контактира со нас.
Педијатријата се вклопува во една поширока тема на работата што ја правиме во развивањето на упатства за истражување на вештачката интелигенција за посебни популации. На ум имаме и проекти за групи со ретки болести, здравје на мајки и постари пациенти.
Бургарт: Генерално во просторот за здравствена заштита сега, гледаме многу од ставот „движете се брзо и крши ги работите“ од технолошкиот свет кој доаѓа во вештачката интелигенција. Навистина е важно за нас како лидери во здравствената заштита да прашаме како можеме да го направиме тоа и да не ги скршиме нашите пациенти. Ние правиме напредок на тој фронт со овие етички рамки.
Повеќе информации:
V. Muralidharan et al, Препораки за употреба на педијатриски податоци во вештачката интелигенција и машинското учење ACCEPT-AI, npj Digital Medicine (2023). DOI: 10.1038/s41746-023-00898-5.
