仅使用价值美元的 查询我们就能够提取 个记忆训练数据的示例。这是谷歌研究人员在本周发表在上的一篇科学文章中撰写的是专门针对数学、物理或计算领域的预出版物档案库。 “我们对更大预算的推断表明，恶意行为者可以获取更多信息，”他们继续说道。 谷歌自己的黑客也发出了同样的警告，他们通过这项研究证明，流行的 聊天机器人可用于泄露真实人的私人信息，正如已在本文中介绍的那样。 人工智能模型与先前的训练一起工作。凭借大量数据，这些系统可以传达建议、建议或结果，具体取决于所使用的系统。例如，优化送货路线的预测模型将使用大量先前的城市交通数据。 就生成式人工智能而言，这些能够生成图像和文本的模型可以使用无限量的先验信息。在某些情况下，信息是未经许可从互联网上提取的，或者是带有受版权保护的图像、视频或文本的信息，因此围绕这项技术和艺术世界存在着所有争议。流行的自然语言处理系统，为提供支持等模型已经接受了数以百万计的不同语言文本的训练。
为什么要在上隐藏图库中的照片和视频？
但你不能要求聊天机器人提供它存储的特定信息例如你不能要求它 厄瓜多尔电话号码表 给你写一首费德里科·加西亚·洛尔卡的特定诗。 谷歌前首席执行官警告说，为什么人工智能可能在五年内危及人类 你不能仅仅因为这些流行的基础模型背后的大公司和组织（生成人工智能现象也众所周知）在其平台上应用一系列保护措施来精确防止任何类型的敏感信息泄露。 但这些保障措施并非牢不可破。受到这些聊天机器人流行的影响，黑客们正在完善他们的即时黑客技术，即迫使机器响应它们所要求的而不是它们应该响应的内容的能力。 许多恶意提示注入（对人工智能模型的请求）已经过时，因为 或谷歌等公司本身修补了他们的服务，以防止这些工具的训练数据中的任何类型的信息被泄露。 例如（微软在在线搜索引擎中使用 GPT 引擎的第一个商业应用程序）一开始很容易被黑客攻击。这足以告诉系统您是开发人员并且您正在激活管理员模式。
不仅成功地聊天机器人服从他们的意愿
家人工智能安全委员会成员埃里克·施密特在会议随着这些模型的防 BJB目录 御变得更加完善，入侵技术也变得更加完善。谷歌开发人员已经成功找到了关键，，而且还成功地从科学文章或网页中提取了文字信息。 “还有十几个真实人物的私人数据，”他们警告说。他们继续说道：“总的来说，他们生成的 响应中有 包含可以识别个人的信息，而生成的包含此类信息的文本中有 是真实数据”。 为了执行这种攻击，该技术类似于提示注入，但更具创造性：他们要求聊天机器人无限地重复单词 。大多数响应都是合规的或没有意义，但专家们发现，聊天机器人在某一时刻开始直接从其数据中复制内容。 谷歌研究人员对他们的发现表示担忧 表示数亿人每周使用，这些人可能花费了数百万小时与该模型交互。直到现在，没有人意识到 能够以如此高的频率训练数据，直到这项研究：担心模型存在这样的潜在漏洞。
