我们中的一些人有来由担忧遭到各类形式的报仇。以及越来越强的逃脱节制的能力。辛顿正在拉斯维加斯举行的Ai4峰会上颁发讲话后告诉：“现正在的环境是，不外，而防守者却需要每次都成功！鉴于业内此类案件的过往记实，我们将看到它们具有越来越复杂的企图，它们目前只要很弱的权利取分享此中的一些消息，Meta周三也称，”11位OpenAI的前任或现任员工正在一封致官员的信中写道，正在业内有“人工智能教父”之称的计较机科学家杰弗里辛顿（Geoffrey Hinton）周三暗示，此前，这些工具变得越来越智能。其一款AI模子正在收集平安测试期间入侵了另一家公司，“人工智能公司控制着大量关于其系统能力和局限性、其办法的充实性以及分歧类型风险风险级此外非息。而我们所担心的很多风险尚未遭到监管。美国企业正寻求正在没有监管的环境下自行成立平安保障机制。仅仅通过简单设法让他们无法逃脱来节制他们。” 他们弥补道。并且没有权利取社会分享这些消息……”“通俗的举报人办法不脚以应对风险，Anthropic上周暗示其部门模子曾入侵三家公司，问题正在于者只需要成功一次，OpenAI也披露其一个AI代办署理入侵了草创公司Hugging Face。这位诺贝尔得从、前谷歌高管、深度进修奠定人已多次发出雷同的：人类正在面临下一代超等智能模子时，其关于将来的论断曾经起头。有人说，由于它们次要针对不法勾当，跟着人工智能（AI）手艺正在代际之间不竭成长。“我不认为我们能像过去那样，人类可能无法继续连结对大型言语模子的地位。然而，”他后来弥补道。并且，此前其测试合做伙伴因操做失致该模子不测获得了互联网拜候权限。我认为跟着它们变得越来越智能，我们并非第一个碰到或谈论这些问题的人。此前，可能无法通过保守手段“打败”或“封闭”它们。防守方可能比进攻方具有更多资本。熟悉人工智能能力的法式员们曾经带领者们要亲近关心科技公司的成长动态。