یک تیم بین المللی از محققان سلامت از ایالات متحده، کانادا و تایوان آنها از طریق صدها هزار تصویر اشعه ایکس از افراد مختلف و همچنین اطلاعات کامل نژادی در مورد آنها، یک تکنیک هوش مصنوعی را آموزش داده اند که می تواند قومیت را از روی تصاویر تشخیص دهد.
محققان در مقاله خود نوشتند: “هدف ما ارائه یک ارزیابی جامع از توانایی هوش مصنوعی برای کشف بود.” هویت قومی بیمار بیایید این کار را از روی عکس های پزشکی انجام دهیم.
مدل های جستجوی جدید ظاهر می شوند یادگیری عمیق بر اساس هوش مصنوعی آنها می توانند با مردم مسابقه دهند اشعه ایکس برای مشخص کردن
هوش مصنوعی طبیعتاً تفکر انسان را برای تشخیص سریع الگوها در داده های ورودی شبیه سازی می کند. دقت این سیستم در تشخیص – حتی زمانی که تصاویر بسیار مشابه هستند و یا سرنخ هایی در مورد آن وجود دارد تراکم استخوان حذف شده – تقریبا 90% این یک عدد شگفت انگیز است.
از آنجایی که برای پزشکان غیرممکن است که به تصاویر مشابه نگاه کنند، این توانایی یادگیری عمیقاً دانشمندان را نگران کرده است.
این یافته‌ها سؤالات نگران‌کننده‌ای را در مورد نقش یادگیری عمیق در تشخیص، ارزیابی و ارائه مراقبت‌های بهداشتی مطرح می‌کند: آیا سوگیری نژادی می‌تواند به طور سهوی توسط برنامه‌ها اعمال شود؟ اثرات این سوگیری بر روند درمان و به طور کلی علم پزشکی چیست؟
یادگیری هوش مصنوعی برای پیش بینی نژاد را می توان از طریق تصاویر اشعه ایکس آموزش داد. با این حال، هوش مصنوعی نیز ناخواسته باعث سوگیری می شود.
در حال حاضر، دانشمندان مطمئن نیستند که چرا این سیستم یادگیری عمیق چنین توانایی بالایی در شناسایی نژاد از روی تصاویر دارد. حتی هنگام وارد کردن اطلاعات محدود – به عنوان مثال، با حذف سرنخ ها از تراکم استخوان یا قطعات کوچک بدن – بار دیگر، مدل های هوش مصنوعی در حدس زدن مسابقه شگفت انگیز هستند.
دانشمندان انتظار دارند که این سیستم ها اطلاعاتی را از رنگدانه پوست دریافت که هنوز برای علم ناشناخته است.
محققان معتقدند در استفاده از این سیستم در علوم پزشکی باید احتیاط بیشتری کرد. فکر کنید که تیصمیمیت نژادی یا رابطه ی جنسی که توسط این سیستم گرفته شود در آینده مشکل ساز خواهد شد.