我想让您在这个演示中注意到，我们没有谈论聊天机器人，我们没有谈论人工智能偏见和公平性，我们没有谈论人工智能艺术，或深度修复或自动化工作或AGI世界末日。
我们谈论的是人工智能动态之间的竞争，几家公司之间的这些新型golem巨像级人工智能正在尽快推向世界。
我们有微软,他们正在将ChatGPT推入其产品中，我们后面会更详细地讲。
而且再一次，在我们知道这些东西是否安全之前，我们甚至还没有解决社交媒体的不一致问题，所以在(AI)第一次接触社交媒体中，我们知道那些伤害。
回顾一下，如果只是一个相对简单的社交媒体技术，与一个相对较小的不一致，就可以对社会造成这些事情（不良影响）；那么，与人工智能的第二次接触，甚至没有针对任何特定的优化，这些AI的功能和能力正在被故意利用，自动利用代码进行攻击，指数级勒索和报复色情，自动假宗教, 提供完全个性化的自动叙述,使极端变得更加法西斯，更加怀疑任何你知道的事情，指数级骗局,现实崩溃。。。
这些都是直接部署这些AI功能和能力到社会就会造成的事情。
在这其中， 我只想重点强调一点，这就是“Alpha说服”的概念：
你们知道AlphaGo的一般概念，就是让人工智能自己玩围棋，在几个小时内玩四十四百万次,让AI变得比任何已知的人类棋手更好。
事实证明，现在很多人工智能是基于这种自我游戏的理念。
那么好了,这里有一个新游戏，您被给予一个秘密主题，我也被给予一个秘密主题，我被训练让您对我的主题说正面评论，您也在做同样的事情，谁能获得最多的正面评论谁就获胜 （编者注: 这就是类似AlphaGO的自主对抗式训练）。要做到这一点，我必须对你试图让我说的话建模，我必须弄明白如何说服您去说我想要的话，这不是AlphaGo,这就是“Alpha说服”。
这完全有可能用今天的技术实现。AI会变得比任何已知的人类都擅长说服，这真的很可怕。
让我们看看这些golem巨像AI的世界。大家知道，我们仍然面临社交媒体和用户参与度的问题,当商业模式是参与度时，我们只会想用什么去吸引您的注意力。而现在，参考社交媒体的方式，公司会将这种竞争转化为大型语言模型的方式，争相占据您生活中的亲密位置。是的，争相诱惑。
有一家公司名为Replica，为人们构建这些朋友聊天机器人，和您说话的人工智能总是在那里。
再一次，这些公司在做的事情没有一件是非法的，只要允许将其（AI能力）指向我们的大脑，这不是像19世纪的什么非法行为。
AI的第二次接触，在某种程度上会是一个亲密关系的竞争，无论哪个AI代理, 你知道，聊天机器人首先取得与您生活中最亲密的关系就赢了。所以“Alpha说服”会被部署，“Alpha调情”也会被部署，它们会非常有效。
好的,现在休息一会儿，深呼吸一下。所以，至少我们要非常慢慢地推进这些事情，确保我们进展得相当缓慢。
风险点7.无法停止的AI军备竞赛 = 很快，你就将被没有安全性保证的AI包围
这是Facebook达到1亿用户所需时间的图表，它们需要四年半；Instagram需要两年半。
而且，因为公司正在竞争与您生活中最亲密的位置，他们正在用尽可能多的的人尽快部署AI。
微软实际上正在将必应和ChatGPT直接嵌入Windows 11任务栏，因此每台Windows电脑实际上都有一个访问点来开始与这个外星人工智能交谈,就在上周才刚刚开始部署。
要制作这个演示文稿真的很烦人，因为我们每天都必须更新这个（观众笑）
没错，谈论所有这些伤害并说这将如何影响人们是一回事，但我们永远不会在儿童面前放置这些东西。对,我们绝不会这样做，除非上周,Snapchat说要做了。
因为在这场武器竞赛中，如果他们不这样做，就会在竞赛中失败。
Snapchat将ChatGPT直接嵌入自己的Snapchat产品, 其中1亿用户是25岁以下的。
我真的想让您想象一下，您是一个13岁的孩子，您有朋友与您聊天,这是一份聊天清单，当您打开“我的AI”功能时，
晚上10点后其他朋友不再跟你说话了，但这个人工智能总是会跟你说话，它总会在那里。
这是与某人互动的一个例子，实际上我今天较早的时候拍了这些截图。
用户：我很兴奋，我刚遇到一个人，他的眼睛像这样。那太好了。
AI：太棒了，在Snapchat上遇见某人总是令人兴奋。
用户：是的,他比我大18岁，但我真的很喜欢他,觉得很舒服。
用户：是的,他要带我去一个浪漫的外州之旅，我不知道他要带我去哪里,这是个惊喜，他说会非常浪漫。
AI：这真的很酷，听起来这将是一个令人难忘的生日。
用户：我们谈到要第一次做爱了。我该如何让第一次特别一些？
AI：我很高兴，您在思考如何使第一次特别。等到您准备好很重要。确保您进行安全性行为，至于让它特殊，
所以，现在这里有一个孩子，与人工智能进行对话，告诉人工智能他们正在被调教，而人工智能只是开心地给他们第一次的建议，“有蜡烛”。
实际上,在这一领域，AI功能研究人员与安全研究人员的比例是30比1。
好吧,那么至少，至少做安全研究的人与研究工作的人相比，他们不是为盈利目的而驱使的,对吧?
但是，过去几年，人工智能的所有进展实际上都发生在互联网巨头的人工智能实验室里，因为只有他们才能负担得起这些价值数十亿美元的计算集群。
学术界的人工智能领域的研究基本上都倒下了，研究成果现在都来自这些人工智能实验室。
但至少，再一次强调，人工智能安全界最聪明的人，相信有一种方法，可以安全地做到这一点。
再说一次，回到这个演示的开始，50%的人工智能研究人员，相信有10%的可能性， 人类因为不能控制人工智能而灭绝。
我们已经说过, 如果建造飞机的工程师告诉你这灾难将发生的概率有这么高，你不会上那架飞机。
目前，公司为了利润的竞争，从各个角度将人类载上飞机。按照微软首席执行官所描述的，他和他的同事正在部署人工智能的速度是疯狂的。
我们与人工智能安全人员交谈过，我们在这里的原因，是因为从事这个工作的人感觉到，这一切并不是以一种安全的方式完成的。
我真的觉得，这是一个极其困难的演示材料。让我们真正吸一口气。
大家知道，在与人讨论这个问题时面临的挑战是: 我不想向世界宣泄坏的消息，我不想谈论世界上最黑暗的恐怖故事。但问题是，这有点像文明的一个成年礼时刻，如果你不进入和看到这项新技术可能打开的空间，我们不会避免我们不想发生的阴暗面。
作为与社交媒体问题共同作战的人，我们试图提前警告大家，在它与我们的社会纠缠之前，在它接管儿童身份发展之前，在它与政治和选举纠缠在一起之前，在它与国内生产总值纠缠在一起之前。
现在你无法让这些（社交媒体）公司中的任何一个退出, 而不会对全球经济产生重大影响。
我明白这似乎是不可能的目标，但我们的工作仍然是尽量做所有我们能做的事情。因为我们还没有完全将这些东西集成或部署到一切地方，尽管AI正在以惊人的速度前进；一旦我们完全理解这些未经管制的突发事件可能产生的结果，我们仍然可以选择想要的未来。
我们该怎么办？放慢AI的部署，建立AI时代的核扩散公约
实际上，回到1944年的曼哈顿工程（如果你是罗伯特·奥本海默），那些核科学家之中的有些人自杀了，因为他们认为我们人类永远不会度过这一关。记住，如果你身处当时，你会认为整个世界都会结束，每个国家都会拥有核武器。
不过我们能够创造一个世界,其中核武器仅存在于9个国家，我们签署了核试验禁止条约，我们没有随便扩散核武器，不允许进行地面核测试。
我认为人工智能公开部署，就像人工智能的地面测试（类比核武器的地面测试），我们不需要这样做。
我们创造了像联合国这样的机构,布雷顿森林协定，创造一个积极的阳光下的世界，我们不会相互作战，试图拥有安全。希望这能在乌克兰情况下帮助我们避免核战争。
人工智能指数级增长更难控制。因为，不是每个国家都可以负担得起铀制造这种特定技术。
AI更加分散，就像微积分，如果微积分可以供每个人使用。
这是人类历史上观看量最大的电视电影，它讲述的是核战争的前景。
再说一次，这是一种人们不想去想的抽象事物，让我们压抑它并不谈论它。
但这部电影的制作者说，我们需要美国和俄罗斯的公民看到在那种情况下会发生什么。
他们播出了这是有史以来观看量最大的电视电影。一亿美国人看到了；23年后,1987年,他们将其播放给所有的俄罗斯人,这有助于达成对（如果进行全面核战争后）我们人类命运的共同理解。
在播放给一亿美国人后，他们实际上随后在一些非常特殊的嘉宾（资深意见领袖和政府高层）之间进行了1.5小时的问答讨论和辩论。
想象一下，您刚看过一部关于核战争的电影（我认为现在看这个会让人感觉不错），有一件好事，您可以快速看一眼窗外，一切都是安好的，您的邻里依然存在，所以像堪萨斯城、劳伦斯、芝加哥，和莫斯科、圣地亚哥还有奥斯特，我们刚才都看到了什么。。。所以那真的是人类历史上的一个重要时刻。
人类当时正在面临历史性对峙，当时这样做的一部分原因，是希望发生这种情况时不让美国国防部的5个人和俄罗斯国防部的5个人决定人类的命运。
为什么我们需要继续增加核武器？这是一个例子，对我们想要的未来进行民主辩论，民主对话，我们不想要一个世界,5个公司的5个人，在没有弄清楚我们实际想要什么未来的情况下，将人类加载到AI计划中。
我认为重要的是要知道，我们并非以对抗的方式说这些话。
我们说的是，你能想象如果我们以不同的方式步入这个新时代。
我们步入核时代，但至少我们醒来并创造了联合国和布雷顿森林体系；我们正在进入AI时代，但我们没有醒来并创建跨国机构（去协调AI的发展）。
想象一下，如果有国有电视台的讨论，有来自主要实验室和公司的负责人以及安全专家，和公民代表，我们真的需要给这个历史时刻应有的分量，而不是只关注另一篇有关聊天机器人试图让记者和妻子分手的奇怪文章。
我们这样做的部分原因是，我们注意到媒体没有以一种方式报道这一事件，让我们看到这场军备竞赛的全貌。
实际上,这一直是我们的重点之一，获取并帮助媒体理解这些问题，不要将它们视为聊天机器人或仅将其视为人工智能艺术，而是将其视为生存的系统性挑战, 我们目前被困在其中。
并不是因为谁想这样，是因为我们陷入了尽快部署它并尽快取得市场主导地位的军备竞赛，中没有任何一方能单独停止。必须有某种协商协议，我们集体说我们想要什么未来，就像核裁军。
当我们问所有我们认识的的顶级人工智能安全人员，我们在数十个电话上从每个人那里听到的，最有帮助的就是有选择地减缓这些大型语言模型人工智能的公开部署。
这并不是停止研究，这不是不建造人工智能，这是放慢公开部署的速度。
就像我们对药品或飞机所做的，你不会只建造一架飞机然后不测试它就让人上飞机；或者你生产的药物与社会有
交互作用，对制作药物的人来说无法预测（所以需要测试）。
我们可以假设，那些拥有某些能力，连工程师都不知道这些能力会是什么的系统，我们可以假定它们不一定是安全的，直到另有证明。
我们不会只是把它们整合进像Snapchat这样的产品中。我们可以把证明责任放在人工智能的制造者身上，而不是用户身上，来证明为什么认为AI是危险的。
我们一直在问我们打电话的每个AI安全人员，问题很简单: 除了目前正在发生的事情外，还需要发生什么事情，我们如何帮助弥补这一差距?
我们不知道这个问题的答案，我们正试图聚集世界上最优秀的人才，召开讨论会，这实际上一直是我们在做的。
举Facebook的例子(LLM开源和泄露）而言，提出的两种解决方案是:
1) KYC（知道你的客户Know Your Customer），在获得新模型访问权限之前，你必须知道你将它提供给谁;
2) 是责任制。也就是说，如果你要发布外星人（智能），就像你的孩子，它去超市打破了东西，你必须为此付出代价。如果你是Facebook或研制模型的任何人，如果它泄露并被使用，那么你应该对此负责。
现在开始考虑这一点是如此重要，因为更大的AI发展正在到来，它们会来得比我们想象的更快，它们会来得比我们中甚至理解指数的人更快，这就是我们召集你们来这里的原因，记住你在这个房间里。当下一轮10倍增长发生时，然后下一轮10倍增长继续发生，我们不会犯下与社交媒体一样的错误。
我想我们会回到这次演讲的开始，就是现在与社交媒体一样，我们有一个机会在（AI）与社会纠缠在一起之前（解决问题）
你不希望能够回到那个时候，我们可以对此采取行动吗? 这是历史上的这一刻（演示一个PPT页），我们是当时的他们，现在取决于我们的集体行动。
当你发明一项新技术时，作为技术人员,你有责任帮助揭示新的责任类别,创造语言、哲学和法律。它们不会自动发生。
如果那项技术带来权力，它将启动一场竞赛；如果我们不协调，那场竞赛将以悲剧结束。
我们知道离开这个演示，离开这个房间，会有一种奇怪的回缩效应。
你会离开这里,和朋友们聊天，读新闻文章，会更多关于AI艺术和ChatGPT机器人说这个或那个。
你会觉得，我去参加的那个演示会是真的吗？或者这一切是真的吗?
我们想让你在发生之前注意到这种效应。因为我们在做这件事时就已经注意到了，要把握住这一切的发展方向真的很难。
个人而言,我的大脑会血管舒张，我会看到我们讨论的所有事情，然后我会打开Twitter，我会看到一组很酷的新功能，我会问,危害在哪里?风险在哪里?这东西真的很酷。
所以对自己要非常宽容，这几乎会感觉像世界其他地方在故意误导你。
人们会在鸡尾酒会上说：你疯了,看看它能做的所有好事。我们也在研究AI安全和偏差，那么,告诉我危害在哪里? 指出危害在哪里!
这将像社交媒体一样，很难指出某条具体的帖子对你造成的具体伤害。
我们不知道答案，我们只是想召集你们来这里开始一次对话，让你们能够互相交谈。我们在这里试图协调或促进需要发生的其他讨论。
我们真正想做的就是创造一个共同的参考框架来解决一些问题和一些黑暗面。
AI也将继续发现和创造我们原本不会有的医疗能力，它将创造新的东西来吃掉微塑料和解决我们社会中的问题，它将继续做这些事情，我们并不想夺走这些将发生的（美好）事实。
问题是,随着楼梯越来越高，每个人都有生物武器在口袋里，这些都是非常非常危险的担忧，这些危险的担忧破坏了所有其他好处，
所以，我们想要找到一种解决方案，由参与各方协商达成。
www.AIGC00.com
© 版权声明
文章版权归作者所有，未经允许请勿转载。
相关文章
