به نقل از گیزمودو، گروهی از مدیران ارشد شرکتهای هوش مصنوعی، دانشمندان و کارشناسان سیاستگذاری نامهای سرگشاده منتشر کردند و نسبت به خطر استفاده از هوش مصنوعی برای تسهیل ساخت سلاحهای بیولوژیکی هشدار دادند. نکته قابل توجه این بود که «سم آلتمن» مدیرعامل «اوپنایآی» و «داریو آمودی» مدیرعامل «آنتروپیک» که معمولاً در بسیاری از موضوعات دیدگاههای متفاوتی دارند، این بار در یک موضع مشترک قرار گرفتند و از این نامه حمایت کردند.
امضاکنندگان دیگر این نامه شامل «دمیس هاسابیس» از «گوگل دیپمایند»، «الکساندر وانگ» و جمعی از پژوهشگران، مدیران فناوری، دانشمندان و متخصصان سیاستگذاری هستند. در متن نامه تأکید شده که این یکی از معدود مواردی است که گروههای مختلف فعال در حوزه هوش مصنوعی، با وجود اختلافنظرهای فراوان، بر سر یک موضوع به توافق رسیدهاند.
تمرکز اصلی نامه در واقع بر خود هوش مصنوعی نیست، بلکه از قانونگذاران میخواهد مقررات سختگیرانهتری برای تولید و توزیع اسیدهای نوکلئیک مصنوعی مانند «دیانای» وضع کنند. نویسندگان نامه پیشنهاد دادهاند سفارشهای ساخت دیانای برای شناسایی «توالیهای نگرانکننده» بررسی شوند، هویت و اعتبار مشتریان تأیید شود و اطلاعات سفارشها نیز ثبت و در صورت لزوم در اختیار نهادهای تحقیقاتی قرار گیرد تا امکان سوءاستفاده کاهش یابد.
به گفته امضاکنندگان، پیشرفت سریع هوش مصنوعی میتواند موانع دانشی موجود برای ساخت عوامل زیستی خطرناک را تضعیف کند. آنها هشدار دادهاند که در آینده، افراد یا گروههایی که پیشتر دانش کافی برای توسعه سلاحهای بیولوژیکی نداشتند، ممکن است با کمک ابزارهای پیشرفته هوش مصنوعی به اطلاعات و توانمندیهای بیشتری دست پیدا کنند.
این نامه توسط دو اندیشکده «اینستیتوت فور پراگرس» و «فاندیشن فور امریکن اینوویشن» سازماندهی شده است. همزمان، «اوپنایآی» نیز در روزهای اخیر تلاش کرده بر رویکرد مسئولانه خود در توسعه هوش مصنوعی تأکید کند. این شرکت در ۱۳ خرداد ۱۴۰۵ یک سند سیاستی جدید درباره ارزیابی و نظارت بر مدلهای هوش مصنوعی منتشر کرد و «سم آلتمن» نیز در ۱۴ خرداد ۱۴۰۵ با «برنی سندرز»، یکی از منتقدان جدی هوش مصنوعی در سنای آمریکا، دیدار کرد.