В Бри­тан­ском меди­цин­ском жур­на­ле опуб­ли­ко­ва­ны шесть пра­вил, кото­рых дол­жен при­дер­жи­вать­ся врач, что­бы избе­жать при­чи­не­ния вре­да паци­ен­ту при исполь­зо­ва­нии в лече­нии искус­ствен­но­го интел­лек­та (ИИ). Меди­ки все чаще сове­ту­ют­ся с ИИ для поста­нов­ки диа­гно­за или состав­ле­ния кур­са лече­ния. Одна­ко воз­мож­ны ошиб­ки, и экс­пер­ты напо­ми­на­ют, что в этом слу­чае искус­ствен­ный интел­лект к ответ­ствен­но­сти за невер­ный диа­гноз не при­влечь. Отве­чать при­дет­ся вра­чам. Поэто­му были раз­ра­бо­та­ны пра­ви­ла, как пра­виль­но исполь­зо­вать ИИ в меди­цин­ской деятельности.

Какую модель ИИ может использовать врач?

Врач дол­жен пони­мать воз­мож­но­сти ней­ро­се­ти, кото­рую он наме­рен при­ме­нить в рабо­те. Напри­мер, систе­ма может под­хо­дить толь­ко для выяв­ле­ния диа­бе­та, зна­чит, в дру­гих слу­ча­ях исполь­зо­вать ее не сто­ит. Так­же надо про­ве­рить, одоб­ре­но ли ее при­ме­не­ние мед­учре­жде­ни­ем. Врач дол­жен знать об исполь­зу­е­мой моде­ли доста­точ­но, что­бы пояс­нить паци­ен­ту, поче­му он рабо­та­ет имен­но с ней.

Можно ли вводить в нейросеть данные пациента?

Если врач исполь­зу­ет обще­до­ступ­ную ней­ро­сеть или систе­му, не одоб­рен­ную руко­вод­ством мед­учре­жде­ния, нель­зя вво­дить в нее пер­со­наль­ные дан­ные: имя, забо­ле­ва­ние и про­чие све­де­ния, по кото­рым паци­ен­та могут иден­ти­фи­ци­ро­вать посто­рон­ние лица.

Безопасный ИИ у врача

Как проверить сведения, которые получил ИИ?

Даже надеж­ная систе­ма может выдать неточ­ные резуль­та­ты, если вве­ден­ные в нее све­де­ния ока­за­лись иска­жен­ны­ми. Нуж­но обя­за­тель­но убе­дить­ся в пра­виль­но­сти вне­сен­ных в ИИ све­де­ний, осо­бен­но если они копи­ро­ва­лись авто­ма­ти­че­ски. Так­же врач дол­жен про­ве­рить, не упу­стил ли искус­ствен­ный интел­лект какие-либо дан­ные. Если полу­чен­ные от него резуль­та­ты про­ти­во­ре­чат суж­де­нию вра­ча, их необ­хо­ди­мо перепроверить.

Нужно ли фиксировать применение ИИ в документах?

При исполь­зо­ва­нии искус­ствен­но­го интел­лек­та врач дол­жен обя­за­тель­но ука­зать в сво­их отче­тах, где и как при­ме­нял­ся ИИ. При этом нуж­но ука­зы­вать наиме­но­ва­ние и про­чие све­де­ния об исполь­зо­ван­ной нейросети.

Кто отвечает за ошибку искусственного интеллекта?

При исполь­зо­ва­нии ИИ врач обя­зан про­ве­рять любые полу­чен­ные с его помо­щью резуль­та­ты, осо­бен­но если они не сов­па­да­ют с его мне­ни­ем. Нуж­но пом­нить об ответ­ствен­но­сти за лече­ние боль­но­го и пони­мать, что конеч­ной целью исполь­зо­ва­ния ИИ долж­но быть обес­пе­че­ние луч­ше­го и более без­опас­но­го ухо­да за пациентами.

За что врача могут критиковать при использовании ИИ?

По мне­нию экс­пер­тов BMJ, уже сей­час вра­чей могут кри­ти­ко­вать по сле­ду­ю­щим при­чи­нам: исполь­зо­ва­ние непод­хо­дя­щей систе­мы ИИ; непра­виль­ное исполь­зо­ва­ние под­хо­дя­щей систе­мы ИИ; неис­поль­зо­ва­ние систе­мы ИИ, когда она долж­на была исполь­зо­вать­ся; непредо­став­ле­ние паци­ен­там суще­ствен­ной инфор­ма­ции об исполь­зо­ва­нии ИИ или разум­ных аль­тер­на­ти­вах; исполь­зо­ва­ние систе­мы ИИ, когда она не долж­на была использоваться.

При­ме­не­ние искус­ствен­но­го интел­лек­та в меди­цине тре­бу­ет ком­плекс­но­го под­хо­да. Необ­хо­ди­мо не толь­ко раз­ра­ба­ты­вать и внед­рять тех­но­ло­гии, но и обу­чать пер­со­нал, обес­пе­чи­вать нор­ма­тив­ное регу­ли­ро­ва­ние и чет­ко опре­де­лять ответ­ствен­ность. Врач оста­ет­ся клю­че­вым зве­ном в при­ня­тии кли­ни­че­ских реше­ний, а ИИ вспо­мо­га­тель­ным инстру­мен­том, кото­рый при пра­виль­ном исполь­зо­ва­нии спо­со­бен повы­сить каче­ство меди­цин­ской помощи.

Tags:
,

Похожие посты