بیش از 1400 نفر از جمله شخصیت‌های برجسته در دنیای فناوری و هوش مصنوعی، نامه‌ای سرگشاده منتشر کرده‌اند. آن‌ها خواستار توقف شش ماهه در توسعه سیستم‌های هوش مصنوعی قدرتمندتر از ChatGPT-4 شده‌اند. طبق این نامه، سیستم‌های هوش مصنوعی پیشرفته می‌توانند تغییرات عمیقی در تاریخ بشریت ایجاد کنند. بنابراین، باید برای آن‌ها برنامه‌ریزی و مدیریت دقیق انجام شود.
امضاکنندگان نامه و هشدارها:
این نامه توسط افرادی چون استیو وزنیاک، بنیانگذار اپل، پروفسور یوشوا بنژیو برنده جایزه تورینگ، و استوارت راسل، مدیر مرکز سیستم‌های هوشمند دانشگاه برکلی امضا شده است. ایلان ماسک، بنیانگذار OpenAI نیز از امضاکنندگان است. ماسک همچنین به سازمانی که نامه را منتشر کرده کمک مالی می‌کند.
انتقاد از آزمایشگاه‌های هوش مصنوعی:
امضاکنندگان نامه از آزمایشگاه‌های هوش مصنوعی انتقاد کرده‌اند. آن‌ها می‌گویند این آزمایشگاه‌ها بدون ارزیابی خطرات، در تلاش برای ساخت سیستم‌هایی با هوش بیشتر از انسان‌ها هستند. در ماه‌های اخیر، این آزمایشگاه‌ها در یک مسابقه بی‌وقفه برای ساخت سیستم‌های هوش مصنوعی قدرتمندتر از هر زمان دیگری بوده‌اند.
درخواست برای همکاری با دولت‌ها:
امضاکنندگان نامه از توسعه‌دهندگان هوش مصنوعی خواستند تا با دولت‌ها و سیاست‌گذاران همکاری کنند. هدف این همکاری ایجاد سیستم‌های نظارتی و حکومتی مناسب برای هوش مصنوعی است.
پاسخ سام آلتمن به نامه:
در پاسخ به این نامه، سام آلتمن، مدیرعامل OpenAI، توییتی منتشر کرد. او گفت که برای توسعه هوش عمومی مصنوعی (AGI)، نیاز به توانایی فنی، هماهنگی میان تلاش‌های مختلف، و یک چارچوب نظارتی جهانی است. آلتمن به خطرات بالقوه سیستم‌های هوش مصنوعی فوق‌هوشمند نیز اشاره کرده است.
احتیاط در توسعه هوش مصنوعی:
آلتمن به خطرات ناشی از سیستم‌های هوش مصنوعی فوق‌هوشمند اشاره کرد. او از استفاده نادرست، حوادث شدید و اختلالات اجتماعی به عنوان خطرات بالقوه نام برد. در عین حال، OpenAI رویکردی محتاطانه در توسعه مدل‌های هوش مصنوعی خود اتخاذ کرده است. آلتمن گفت که با نزدیک شدن به AGI، این شرکت تصمیمات خود را با احتیاط بیشتری اتخاذ می‌کند.
