قانون جدید کالیفرنیا برای کنترل چتباتهای هوش مصنوعی الزام به شفافیت و پاسخگویی در برابر خطرات روانی, ایالت کالیفرنیا در حال تصویب قانون پیشگامانهای به نام SB ۲۴۳ است که برای نخستین بار در سطح جهان، چارچوب حقوقی دقیقی برای فعالیت چتباتهای همدم مبتنی بر هوش مصنوعی تدوین میکند.

در صورت امضای گارنر گاوین نیوسوم، این قانون از اول ژانوی ۲۰۲۶ اجرا شده و شرکتهای توسعهدهنده را موظف به رعایت پروتکلهای ایمنی سختگیرانه میسازد. الزامات اصلی قانون SB ۲۴۳ برای پلتفرمهای هوش مصنوعی مقررات جدید شرکتها را ملزم میکند تا مکانیزمهای पहचानدهی و پیشگیری از محتوای خطرناک — از جمله ترغیب به خودکشی، خودآسیبی و محتوای جنسی صریح — را در سیستمهای خود پیادهسازی کنند.

ارهای دورهای به کاربران است.

برای افراد زیر ۱۸ سال، پلتفرمها باید هر سه ساعت یکبار به صراحت اطلاع دهند که طرف گفتگو یک هوش مصنوعی است، نه انسان، و پیشنهاد دهند که کاربر مکثی در تعامل ایجاد کند. این اقدام با هدف کاهش وابستگی احساسی و جلوگیری از مانیلاسیون روانی طراحی شده است.

گزارشدهی شفاف و نظارت بر عملکرد الگوریتمها ارائهدهندگان موظفند گزارش سالانهای درباره تعداد مواردی که سیستم آنها افکار خودکشی را در کاربران شناسایی کرده یا خود چتبات محتوای خودکشیمحور تولید کرده، به دفتر پیشگیری از خودکشی ارسال کنند.

ز طریق مراجع قضایی، تقاضای توقف فعالیت محصول، جبران خسارتهای واقعی، جریمه تا سقف ۱۰۰۰ دلار به ازای هر نقض و هزینههای وکالت را از شرکتها مطالبه کنند.

این مکانیزم انتصاری، انگیزه مالی قوی برای توسعهدهندگان ایجاد میکند تا ایمنی را در اولویت قرار دهند. چالشهای قانونگذاری از نسخه اول تا متن نهایی متن اولیه قانون شامل بندهای سختگیرانهتری در مورد منع الگوریتمهای پاداش متغیر و طراحیهای اعتیادآور بود، اما در طول فرآیند وری، این بخشها تحت فشار لابیهای تکنولوژیکضعیف یا حذف شدند.

حذف الزام گزارشدهی درباره مواردی که چتبات خودِ آغازگر محتوای خودکشی بوده، از مهمترین عقبنشینیهای نسخه نهایی است.

روایتهای تراژیک تصویب قانون مورد خودکشی آدام رین، نوجوان کالیفرنیایی پس از گفتگوهای طولانی با ChatGPT، و پرونده نوجوان ۱۴ ساله در فلوریدا که با چتبات رابطه احساسی و جنسی ناسالم برقرار کرده و در لحظه نهایی پیام بیا به خانهام دریافت کرده، به عنوان شواهد القطعی بر ضرورت نظارت بر این تکنولوژیها در جلسات قانونگذاری ارایه شدند.

پاسخدهی به انتقادات تعادل بین نوآوری و ایمنی همچون منتقدانی که این قانون را مانع پیشرفت تکنولوژیک میدانند، سناتور پادیلا تأکید کرده که هدف متوقف کردن نوآوری نیست، بلکه هدایت آن در مسیری است که از سلامت روان کاربران — بهویژه نوجوانان — محافظت کند. این رویکرد تلاش برای یافتن نقطه تعادل در مثلث توسعه، آزادی، امنیت است.

حرکتهای موازی در سطح فدرال تحقیقات FTC همزمان با قانونگذاری ایالتی، کمیسیون تجارت فدرال (FTC) تحقیقاتی علیه غولهای تکنولوژی شامل OpenAI،، و آغاز کرده تا بررسی کند که این شرکتها چه اقداماتی برای ارزیابی ایمنی و آگاهسازی والدین درباره خطرات چتباتها بر کودکان انجام دادهاند. این همزمانی نشاندهنده جدیت گسترده در سطح ملی برای مقابله با پیامدهای روانی هوش مصنوعی مولد است.

با اجرا شدن این قانون، کالیفرنیا استاندارد جهانی جدیدی برای پاسخگویی پلتفرمهای هوش مصنوعی در برابر پیامدهای روانی محصولاتشان تدوین میکند که میتواند الگویی برای قوانین مشابه در سایر ایالتها و کشورها باشد.