وبلاگ

در کنفرانس و نمایشگاه جهانی بهداشت جهانی HIMSS در اورلاندو، من یک سخنرانی متمرکز بر دفاع در برابر برخی از دام های هوش مصنوعی در مراقبت های بهداشتی ارائه کردم.

هدف این بود که متخصصان مراقبت های بهداشتی را تشویق کنند تا عمیقاً در مورد واقعیت های تحول هوش مصنوعی فکر کنند و در عین حال نمونه هایی در دنیای واقعی از نحوه انجام کار ایمن و مؤثر به آنها ارائه شود. هدف من این بود که همه مخاطبان در عبور از آگهی به من بپیوندند تا بر درک کاملی از نحوه ساختن این آینده هیجان انگیز تمرکز کنم.

خوشبختانه پیام من با استقبال خوبی مواجه شد. شرکت‌کنندگان از پتانسیلی که وقتی فراتر از حقه‌ها و ترس از دست دادن حرکت می‌کنیم، قدردانی کردند. این نشان دهنده سطح بالاتری از رهبری است که در آن افراد متفکر در سراسر کارکردها برای ایجاد اهداف روشن و عملی برای بهبود نتایج همکاری می کنند.

اشتها برای این رویکرد بعد از هیپ به هوش مصنوعی به قدری قابل توجه بود که من ناگزیر شدم خلاصه کوتاهی از سخنرانی خود را بنویسم و ​​آن را به طور گسترده با خوانندگان Healthcare IT News به اشتراک بگذارم.

من به طور خلاصه به بمب‌های ساعتی هوش مصنوعی که قبلاً منفجر شده‌اند اشاره می‌کنم، ده نکته برای کمک به شما برای جلوگیری از این مشکل ارائه می‌دهم، و دو نمونه از سازمان‌هایی را که با آنها کار می‌کنم به اشتراک می‌گذارم که هوش مصنوعی را درست می‌کنند.

چه کاری را نباید انجام داد

هم در بخش مراقبت های بهداشتی و هم فراتر از آن، ابتکارات هوش مصنوعی عجولانه راه اندازی شده در حال حاضر نشانه هایی از شکست را نشان می دهد.

به عنوان مثال، چت ربات رو به مشتری ایر کانادا به اشتباه وعده پرواز با تخفیف را به مسافر داده است. این شرکت متعاقباً سعی کرد ادعا کند که این تقصیر آنها نبوده است، با این استدلال که هوش مصنوعی یک شخص حقوقی جداگانه است “مسئول اقدامات خود”. جای تعجب نیست که یک دادگاه کانادایی دفاع “این ما نبودیم، هوش مصنوعی بود” را نپذیرفت و اکنون شرکت هواپیمایی ملزم به رعایت تخفیف وعده داده شده اشتباه است.

سال گذشته، انجمن ملی اختلالات خوردن تصمیم گرفت تا کارکنان بسیار مجرب خط کمک خود را با Tessa، یک ربات چت که برای کمک به افرادی که به دنبال مشاوره در مورد اختلالات خوردن هستند، جایگزین کند. با این حال، تنها چند روز قبل از راه اندازی برنامه ریزی شده Tessa، مشخص شد که ربات شروع به ارائه توصیه های مشکل ساز، از جمله توصیه هایی برای محدود کردن کالری دریافتی، وزن کشی های مکرر و تعیین اهداف دقیق کاهش وزن کرده است. اگرچه تسا هرگز عملیاتی نشد، اما این حادثه عواقب مخربی را که می‌تواند از تصمیم‌های شتابزده هوش مصنوعی ناشی شود، نشان می‌دهد.

مقاله‌ای که اخیراً در شبکه باز JAMA منتشر شده است، نمونه‌های متعددی از الگوریتم‌های مغرضانه را نشان می‌دهد که «اختلاف‌های نژادی و قومیتی در مراقبت‌های بهداشتی و مراقبت‌های بهداشتی» را تداوم می‌بخشند. نویسندگان موارد متعددی از الگوریتم‌های مغرضانه و مضر را که توسعه و پیاده‌سازی شده‌اند را شرح می‌دهند و بر «دسترسی یا واجد شرایط بودن برای مداخلات و خدمات و تخصیص منابع» تأثیر منفی می‌گذارند.

و این به ویژه نگران کننده است زیرا بسیاری از این الگوریتم های مغرضانه هنوز در حال کار هستند.

به بیان ساده، بمب‌های ساعتی هوش مصنوعی قبلاً منفجر شده‌اند و به این کار ادامه خواهند داد مگر اینکه اقدامات پیشگیرانه برای کاهش این مسائل انجام شود.

چه باید کرد

برای کمک به رهبران برای مقابله با خطرات هوش مصنوعی، ده نکته را برای نزدیک شدن به تحول هوش مصنوعی به روشی ایمن و پایدار ایجاد کرده‌ام. این نکات برای اطمینان از اینکه مدیران مراقبت های بهداشتی بهترین بازده ممکن را در سرمایه گذاری خود دریافت می کنند، طراحی شده اند:

• شفافیت و توضیح پذیری را در اولویت قرار دهید. سیستم‌های هوش مصنوعی را انتخاب کنید که الگوریتم‌های شفاف و نتایج قابل توضیح ارائه می‌دهند.

• پیاده سازی مدیریت قوی داده ها ارائه داده های با کیفیت بالا، متنوع و با برچسب دقیق بسیار مهم است.

• با مقامات اخلاقی و نظارتی به موقع تماس بگیرید. درک زودهنگام و هماهنگی با دستورالعمل های اخلاقی و الزامات قانونی می تواند از بازنگری های پرهزینه جلوگیری کرده و ایمنی بیمار را تضمین کند.

• تشویق همکاری بین رشته ای رویکرد بین رشته ای تضمین می کند که ابزارهای هوش مصنوعی توسعه یافته عملی، اخلاقی و بیمار محور هستند.

• از مقیاس پذیری و قابلیت همکاری اطمینان حاصل کنید. ابزارهای هوش مصنوعی باید به گونه ای طراحی شوند که به طور یکپارچه با سیستم های فناوری اطلاعات سلامت موجود ادغام شوند و در بخش ها یا حتی مؤسسات مقیاس پذیر باشند.

• برای ادامه تحصیل و آموزش سرمایه گذاری کنید. سرمایه گذاری در آموزش و آموزش مداوم تضمین می کند که کارکنان می توانند به طور موثر از هوش مصنوعی استفاده کنند، نتایج آن را تفسیر کنند و تصمیمات آگاهانه بگیرند.

• یک رویکرد بیمار محور ایجاد کنید. اتخاذ شیوه‌های هوش مصنوعی که مشارکت بیمار را بهبود می‌بخشد، ارائه مراقبت‌های بهداشتی را شخصی‌سازی می‌کند، و نابرابری‌های سلامتی را ناخواسته تشدید نمی‌کند.

• عملکرد و تأثیر را به طور مداوم نظارت کنید. توسعه مکانیسم‌های بازخورد کارگران و بیماران که امکان اصلاح مداوم ابزارهای هوش مصنوعی را برای برآورده کردن بهتر نیازهای ذینفعان فراهم می‌کند.

• چارچوب های پاسخگویی شفاف ایجاد کنید. برای تصمیماتی که با استفاده از هوش مصنوعی گرفته می شود، خطوط مسئولیت مشخصی را تعریف کنید.

• فرهنگ هوش مصنوعی اخلاقی را تقویت کنید. بحث در مورد اخلاق هوش مصنوعی را تشویق کنید، استفاده مسئولانه از هوش مصنوعی را ترویج دهید و اطمینان حاصل کنید که تصمیمات با در نظر گرفتن رفاه همه ذینفعان اتخاذ می شود.

اجازه دهید این نکات شما را در سفر هوش مصنوعی راهنمایی کنند. از آنها برای توسعه اصول، خط‌مشی‌ها، رویه‌ها و پروتکل‌ها استفاده کنید تا در اولین بار هوش مصنوعی را به درستی به دست آورید و زمانی که همه چیز طبق برنامه پیش نمی‌رود به طرز ماهرانه‌ای حرکت کنید. استفاده فعالانه از این نکات در ابتدای تحول هوش مصنوعی باعث صرفه جویی در زمان، پول و در نهایت در زندگی می شود.

کاری که بقیه انجام می دهند

تبدیل هوش مصنوعی به چندین مؤلفه اصلی نیاز دارد که به صورت هماهنگ کار کنند. همانطور که در سخنرانی اصلی خود در HIMSS ذکر کردم: مانند یک مراسم شکرگزاری، زمان آن رسیده است که از میز بچه های هوش مصنوعی – جایی که مکالمه با وسواس حول محور ChatGPT متمرکز می شود – به میز بزرگسالان حرکت کنیم، جایی که رهبران به طور فعال در حال برداشتن گام هایی برای ایجاد پایه هستند. برای تحول هوش مصنوعی بالغ

دو مورد از آن عناصر کلیدی که من در همکاری با سازمان‌های بزرگ مراقبت‌های بهداشتی روی آنها تمرکز کرده‌ام، اتخاذ رویکردی جامع برای اجرا و سرمایه‌گذاری در فرهنگ قوی و مبتنی بر داده است.

در یک سیستم مراقبت های بهداشتی، ما طرحی را برای پیاده سازی ایمن مدل های زبانی بزرگ ایجاد کردیم. این طرح حوزه‌های تأثیرگذاری متفاوتی را در نظر می‌گیرد، مانند پیامدهای اقتصادی و حریم خصوصی LLM، و شامل سؤالات کلیدی برای پرسیدن در هر یک از این حوزه‌ها است.

هدف این بود که به همه در C-suite سوالات خاص و مرتبط در مورد خطرات و مزایای مرتبط با اجرای LLM ارائه شود. این رویکرد به برجسته کردن مبادلات – مانند سرعت در برابر ایمنی یا کیفیت در برابر هزینه – کمک می کند و برای این گروه متنوع از رهبران یک زبان مشترک برای شناسایی فرصت ها و بحث در مورد خطرات فراهم می کند.

در یک سیستم بهداشتی دیگر، ده شاخص عملکرد کلیدی را توسعه دادیم تا اطمینان حاصل کنیم که رهبران، تیم‌ها و فرآیندهای آن‌ها به فرهنگ مراقبت مبتنی بر داده‌ها و هوش مصنوعی کمک می‌کنند. ما همچنین یک نظرسنجی بر اساس این KPIها ایجاد کردیم تا درک پایه ای از اینکه فرهنگ داده در کجا برتر است و جایی برای بهبود وجود دارد ایجاد کنیم.

سازمان با تمرکز بر درک نیازهای داده‌ای پزشکان خود و ارائه داده‌های باکیفیت و مرتبط به آنها در صورت نیاز، به جهش سریع و چشمگیری در “اعداد خوب” مانند مشارکت کارکنان و رضایت بیمار پی برده است.

این به عنوان مثالی بارز از چگونگی دگرگونی هوش مصنوعی بسیار قبل از ظهور تکنولوژی و تبلیغات نوظهور است. با تمرکز بر روی اصولی مانند داده ها، رهبران می توانند به پیروزی های سریع دست یابند در حالی که سازمان خود را برای موفقیت پایدار آماده می کنند.

بعدش چی

آینده مراقبت های بهداشتی مستلزم یک طرز فکر «اول رهبری، بعد فناوری» است. مدیران باید نیازهای افراد خود و همچنین چالش ها و فرصت های نهفته در فرآیندهای خود را اولویت بندی کنند.

این رویکرد شامل استفاده از علم برای درک سازمان آنها به روشی سیستماتیک و قابل پیش بینی و تکیه بر داده های با کیفیت بالا برای ایجاد بینش دقیق و قابل اعتماد برای ایجاد تغییر است.

اتخاذ یک ذهنیت رهبری اول، فناوری دوم همچنین به این معنی است که تصمیم گیرندگان علم و داده ها را با تخصص خود که به سختی به دست آورده اند ترکیب می کنند تا به طور ماهرانه راه حل های متناسب با زمینه خاص خود را ایجاد کنند.

به همین دلیل است که انجمن پزشکی آمریکا هوش مصنوعی را به عنوان “هوش افزوده” تعریف می کند و بر نقش آن در تقویت هوش انسان به جای جایگزینی آن تاکید می کند. تعریف آنها اهمیت حفظ ظرفیت های شناختی و عاطفی ما را در خط مقدم تصمیم گیری قبل از روی آوردن به فناوری برجسته می کند.

رهبرانی که از این ویژگی های انسانی بی انتها استقبال می کنند، آینده ای بالغ و مبتنی بر هوش مصنوعی را پرورش می دهند.

برایان آر اسپیساک، دکترا، یک مشاور مستقل است که بر تحول دیجیتال در مراقبت های بهداشتی تمرکز دارد. او همچنین یک محقق در ابتکار رهبری آمادگی ملی در دانشکده بهداشت عمومی هاروارد تی‌چ چان، عضو هیئت علمی کالج آمریکایی سلامت عمومی و نویسنده کتاب است. رهبری محاسباتی.