spectatorindex

توافق‌نامه کاخ سفید درباره ابرهوش مصنوعی

تعهد مشترک پیرامون مسئولیت‌پذیری در قبال مدل‌های پیشگام

به‌منظور ساختن آینده‌ای امیدبخش برای مردم آمریکا و سراسر جهان، باور ما بر این است که هر شرکتی موظف است فناوری خود را به‌شکلی ایمن و به‌گونه‌ای توسعه دهد که موجب اعتمادسازی نزد مشتریان و افکار عمومی شود.

نقطه آغاز این مسیر آن است که تمامی شرکت‌های فعال در آموزش و استقرار مدل‌های پیشگام، از فرایندها و سازوکارهای کنترلیِ داخلی و مستحکمی برخوردار باشند تا اطمینان حاصل شود فناوری آن‌ها عملکردی مطابق با اهداف تعیین‌شده دارد و هرگونه نقص احتمالی، بلافاصله شناسایی و برطرف می‌گردد. از این رو، علاوه بر تدابیر احتیاطی معمول، باور داریم که هر شرکت باید چهار لایه نظارتی و حسابرسی زیر را پیاده‌سازی کند:

۱. پیاده‌سازی سازوکارهای کنترلیِ دقیق داخلی به‌منظور پایش قابلیت‌ها و هم‌راستایی مدل‌ها در مراحل آموزش و به‌کارگیری، به‌ویژه در حوزه‌هایی نظیر امنیت سایبری، امنیت زیستی و تهدیدات شیمیایی، و حصول اطمینان از این‌که سامانه‌ها دست به نفوذ یا دسترسی غیرمجاز و ناخواسته به زیرساخت‌های فنی نزنند.

۲. تفویض اختیار به یک تیم داخلی تا اطمینان حاصل شود تمامی سامانه‌های کنترلی، نظارتی و شناسایی، مطابق با استانداردهای تعیین‌شده عمل می‌کنند و اختلالات شناسایی‌شده بی‌درنگ مرتفع می‌شوند.

۳. همکاری با ارزیابان و حسابرسان مستقل بیرونی جهت انجام بازرسی‌های بی‌طرفانه درباره درستی عملکرد فرایندهای نظارتی، پایش و کشف خطا.

۴. تعیین یک کمیته مستقل از اعضای هیئت‌مدیره به‌منظور نظارت عالیه، دریافت گزارش‌های دوره‌ای از تیم‌های اجرایی و حسابرسان داخلی و خارجی، و همچنین حصول اطمینان از رفع کامل تمامی کاستی‌های گزارش‌شده.
مجموعه این گام‌ها، اطمینان خاطری پایدار به شرکت‌ها، مشتریان و جامعه خواهد داد که فناوری مذکور عملکردی مطمئن و منطبق بر اهداف اولیه دارد.
شرکت‌های عضو این توافق به‌طور منظم تشکیل جلسه خواهند داد تا استانداردها و الگوهای بهینه را در جهت ارتقای ایمنی سامانه‌های خود تدوین کنند.

با گذشت زمان، مدون‌سازی این سازوکارها در چارچوب قوانین یا مقررات رسمی رویکردی منطقی خواهد بود. فارغ از این‌که اجرای این ضوابط در آینده برای بنگاه‌ها جنبه الزام حقوقی پیدا کند یا خیر، ما اجرای این کنترل‌ها و حسابرسی‌ها را ضرورتی حیاتی برای تضمین آینده‌ای امن برای همگان می‌دانیم و تک‌تک مجموعه‌های ما خود را متعهد به تحقق آن می‌دانند.

@mamlekate