هوش مصنوعی‌های پزشکی / پیروزی در تئوری و ناکامی در عمل_خبررسان

امریت کرپالانی، معلم پزشکی دانشگاه وسترن کانادا که رهبری این تحقیق را به مسئولیت داشت، او گفت: «منبع سوالات پزشکی ما بانک سئوالات Medscape می بود.» او اضافه کرد که آزمون USMLE که ChatGPT قبلا به آن جواب داده می بود، عمدتا شامل سئوالات چند گزینه‌ای است، اما Medscape آزمونی دارای پرونده‌های پزشکی بیماران واقعی است که یافته‌های معاینه فیزیکی، نتایج آزامایش‌های آزمایشگاهی و چند مورد دیگر هم پوشش می‌دهد.

از ChatGPT تا AMIE؛ آینده هوش مصنوعی در پزشکی

تیم کرپالانی ۱۵۰ مورد از پرونده‌های Medscape را به سوال‌هایی که ChatGPT بتواند فهمیدن و پردازش کند، تبدیل کردند. این پرونده‌ها به‌خاطر مواردی همانند چندین بیماری همزمان و معضلات تشخیص، برای پزشکان پیچیده می بود. این آزمون به‌خاطر محدودیت OpenAI، شرکت سازنده ChatGPT، در مشاوره‌های پزشکی، مقداری با چالش روبه رو شد، اما این محدودیت‌ها با گفتن این‌که این تشخیص‌ها برای مقاله‌ای دانشگاهی است، به راحتی دور زده شد. سپس، تیم تحقیقاتی از این هوش مصنوعی خواست تا علت‌های خود را برای این تشخیص‌ها اراعه دهد. در نهایت اشکار شد که ChatGPT در ۷۶ مورد از ۱۵۰ پرونده، نادرست کرد.

گوگل در ابتدای سال ۲۰۲۴، مطالعه‌ای درمورد AMIE، هوش مصنوعی‌ای که بر پایه مکالمات بیماران به طور خاص برای تشخیص بیماری‌ها طراحی شده است، انتشار کرد. AMIE در ۳۰۳ پرونده از مجله پزشکی نیوانگلند و کنفرانس کلینیکوپاتولوژیک موفق شد تا از پزشکان انسانی پیشی بگیرد. این هوش مصنوعی، استثنائی نیست؛ سال قبل، تقریبا هر هفته تحقیقاتی درمورد کارکرد شگفت‌انگیز هوش مصنوعی‌های متفاوت در تشخیص سرطان و دیابت و حتی پیش‌بینی ناباروری مردان بر پایه آزمایشات خون انتشار می‌شد.

تفاوت ChatGPT و هوش مصنوعی‌های تخصصی پزشکی در داده‌هایی است که با آن آموزش دیده‌اند. کرپالانی او گفت: «این چنین هوش مصنوعی‌هایی امکان پذیر با حجم بسیاری از ادبیات پزشکی و موارد پیچیده شبیه آموزش دیده باشند. امکان پذیر آن‌ها برای فهمیدن واژگان پزشکی، تفسیر آزمایش‌های تشخیصی و شناسایی الگوهای داده‌های پزشکی که به بیماری‌ها یا شرایط خاص مربوط می‌شود، طراحی شده باشند. در روبه رو، مدل‌های زبان عمومی، همانند ChatGPT بر روی طیف گسترده‌ای از موضوعات آموزش دیده و فاقد تخصص عمیق مورد نیاز برای تشخیص پزشکی می باشند.» او افزود: «ChatGPT از دانش پزشکی دقیق بی‌خبر است و هر زمان که نتایج آزمایش حتی مقداری خارج از محدوده نرمال باشد، منحرف می‌شود.»

یک علت جدی درمورد این‌که چرا زیاد تر هوش مصنوعی‌های پزشکی همانند AMIE دردسترس عموم نیستند، این است که هنگامی نادرست می‌کنند، روش ChatGPT را درپیش می‌گیرند. آن‌ها تلاش دارند که مخاطب را قانع کنند که درست می‌گویند. این در حالی است که جواب نیمی از جواب‌های ChatGPT نادرست و با این حال، دلایل جواب‌های اراعه‌شده، زیاد خوب می بود. کرپالانی او گفت: «این نوشته هم دلنشین و هم دلواپس‌کننده می بود. از یک سو، این ابزار در ساده‌سازی توضیحات موضوعات پیچیده زیاد موثر است. از نظر دیگر، در صورت نادرست می‌تواند زیاد متقاعدکننده باشد، چرا که موضوعات را به نحوه قابل فهمی توضیح می‌دهد.»

ابزار کمکی یا جانشین پزشکان؟

اکثر هوش مصنوعی‌ها درکی از موضوعیکه درموردش سخن بگویید می‌کنند، ندارند. تنها کاری که انجام خواهند داد، پیش‌بینی کلمه بعدی جمله بر پایه آموزش‌هایی که دیده‌اند، است. به همین علت اکثر چت‌بات‌ها حتی برای موارد غلط، دلایلهای زیاد قانع‌کننده، ساختاریافته و خوب نوشته‌شده‌ای اراعه خواهند داد. هیچ راه آسانی برای ساخت یک پزشک هوش مصنوعی قابل مطمعن وجود ندارد. کرپالانی او گفت: «این ابزارها باید در مقیاس بزرگ و بر روی داده‌های بالینی آموزش داده شوند و در مسیر هم نیاز به نظارت‌های بسیاری خواهند داشت. امکان پذیر ChatGPT و ابزارهای شبیه برخی ماموریت های را انجام بدهند، اما تشخیص موارد پیچیده نیاز به دقت بسیاری دارد.»

کرپالانی باور دارد که هوش مصنوعی تشخیص کامل یا مدیریت پزشکی را انجام نخواهد داد، بلکه ابزاری درخدمت پزشکان انسانی برای تحکیم کارشان خواهد می بود.

اخبار حوزه استارتاپ و فناوری اطلاعات را در صفحه استارتاپ خبررسان بخوانید.