سم آلتمن و ایلیا سوتسکِوِر، افرادی که در خط مقدم ساخت مدلهای هوش مصنوعی قرار دارند، بارها از آیندهای ابراز نگرانی کردهاند که در آن AGI و سپس ASI ممکن است خارج از کنترل انسان عمل کند.