هوش مصنوعی گوگل در تشخیص؛ ? (تحلیل صریح), گوگل اخیراً مدعی شده است که مدل هوش مصنوعی پزشکی خود،، توانایی تشخیص بیماریهای پیچیده را دارد. اما نتایج ها نشان میدهد این ههای� ź را با تکرار های از های مدل میشود.

در یک جدید که خود گوگل برای نمایش قابلیتهای منتشر کرده بود، این مدل در یک CT مغز، یک ساختاری تحت عنوان گانگلیون بازیلر را شناسایی کرد؛ń گانگلیونهای حقیقی مغز شامل گانگلیونهای پایه و شریان بازیلر هستند، اما ترکیبی é گانگلیون غیرممکن است؛ یعنی عضو خیالی که اصلاً در بدن انسان وجود ندارد.

محققان و این اشتباه را بسیار خطرناک توصیف میکنند؛ چون دو ساختار מאוד مغزی مثل این میتواند بهเลือก درمانیات نادرست و ممکن است منجر به یا مرگ شود. پس از اینکه متخصص عصبشناسی دکتر برایان مور این اشتباه را گزارش داد، گوگل ابتدا تلاش کرد تا به ê را به تغییر دهد و خطا را به نسبت دهد؛ اما پس از فشار عمومی، اصطلاح نادرست را بازگرداند و ادعا کرد این یک است که مدل از دادههای آموزشی خود یاد گرفته.

مشکلات اما به اینجا محدود نمیشود. تستهای تکمیلی توسط متخصصان ی نشان دادهاند که مدلهای تحت مثل وقتی سؤالهای دقیق (شامل سن، جنسیت) دریافت میکنند، بهتر عمل میکنند؛ اما همان عکس را با سوال عمومی مانند در این عکس چه میبینی؟ نشان داده، المرض را کامل نادیده گرفته و عکس را نرمال میکنند.

این نشان میدهد کههای هوش مصنوعی تحتآسیب- به هستند؛ دقیقاً همانطور که یک تحت فشار ممکن است به دقت تجربه خود اعتماد کند، هوش مصنوعی نیز ممکن است به دلیل اعتماد بیش از حد به پاسخهای خود، خطاهای فاحشی را پنهان کند.

کارشناسان هشدار میدهند بزرگترین این í؛ بلکه است که مدل در آن راعبارتاً حقیقت ارائه میدهد؛ مشابه استفاده از خودران vé که سرنوشت راننده را به میاندازد؛ به این معنی که پزشکان ممکن است به دلیل اعتماد AI، بررسیهای راŁ نتیجهگیری هوش مصنوعی در پزشکی میتواند ابزار باشد؛ اما تا وقتی که مدلها تمایل به ساختن اطلاعات داشته باشند و من نمیدانم نگویند، استفاده از آنها در نیاز بهس شدید و á دارد., پزشکی و هوش مصنوعی