محقق آنتروپیک از ترس هوش مصنوعی استعفا داد

به گزارش خبررسان، «جیکوب کاکسون» محقق ۲۷ سالهای که سه سال در اوپنایآی و آنتروپیک فعال بوده، در هشتم سپتامبر از آنتروپیک استعفا داد و صنعت هوش مصنوعی را ترک کرد. او در شبکه اجتماعی اکس نوشت که هیچیک از این دو شرکت بهصورت مسئولانه رفتار نمیکنند و برای پیشبرد «ابرهوش مصنوعی» با زندگی انسانها قمار میکنند.
کاکسون که بهواسطه شهرت آنتروپیک در حوزه ایمنی به این شرکت پیوست، به والاستریت ژورنال گفت: اقدامات ایمنی واقعی است، اما رقابت میان شرکتها باعث میشود تضادها اجتنابناپذیر شوند. او هشدار داد که تا پایان سال آینده اوضاع ممکن است از کنترل خارج شود و بسیاری از بدبینانهترین سناریوها محقق گردند. سازندگان هوش مصنوعی صادقانه معتقدند این فناوری میتواند تا پایان دهه جاری بشر را تهدید کند و دستاندرکاران صنعت در سکوت از این وضعیت نگراناند.
«اون هوبینگر» مسئول بخش همراستاسازی آنتروپیک نیز احتمال انقراض بشر توسط هوش مصنوعی را بیش از ۱۰ درصد برآورد میکند. کاکسون درباره خودبهینهسازی سیستمها و خطر نفوذ به زیرساختهای حیاتی هشدار داد و افزود: قدرت این فناوری را دستکم نگیرید؛ سیستمهای ابر انسانی بهزودی میتوانند همه چیز را هک کنند، هر حوزهای را متحول سازند و به قدرت واقعی دست یابند، در حالی که روند پیشرفت کند نمیشود.