2024-05-27 09:01
谷歌回应AI搜索服务翻车：“被黑了”丨媒体曝：苹果正在酝酿更多AI功能丨马斯克承认Grok目前不如ChatGPT
AI奇点网2024年5月27日报道丨AI资讯早报
在本月初，Google 在2024年I/O大会上宣布将面向美国地区的部分用户推出AI搜索概述（AI Overviev）功能。这个功能会在用户输入搜索字符串时，由人工智能驱动的搜索引擎，根据网络上多个来源的信息，生成问题的答案提供给用户，并且这些信息会注明来源。
在 Google 上线该功能后，很多用户反应， AI 搜索概述提供了许多的错误答案。
比如，当输入「奶酪不粘在披萨上」时，AI 搜索概述功能给出的答案是「酱汁中加入大约 1/8 杯无毒胶水」；而当用户提问「我每天应该吃多少块石头」时，该工具的回答为「根据加州大学伯克利分校地质学家的说法，人们每天应该至少吃一块小石头」，同时列出了其维生素和消化益处。
更骇人听闻的是，甚至有网友成功通过谷歌AI搜索概述（AI Overviev）获取了”如何自杀“的方法，被外界质疑价值观存在严重的负面导向。
随后，Google 就AI 搜索生成重大事实错误内容一事，做出回复：
绝大多数人工智能概述都提供高质量的信息，以及在网络上进行更深入挖掘的链接。
我们看到的许多示例都是不常见的查询，我们还看到了被篡改或无法重现的示例。
在推出这一新体验之前，我们进行了广泛的测试，与我们在搜索中推出的其他功能一样，我们感谢您的反馈。我们正在根据我们的内容政策采取适当的迅速行动，并利用这些示例对我们的系统进行更广泛的改进，其中一些已经开始推出。
今年的 WWDC 开发者即将到来，锁定 6 月。彭博社记者在当地时间5月25日的最新周刊报道里边，介绍了苹果在 AI 方面的新动向，比如：
根据该名记者的最新介绍，被外界备受关注的苹果 iOS 18 及其他操作系统的生成式人工智能功能可能会被标记为「测试版」或预「预览版」。意味着这些功能尚不够稳定或成熟，将无法以正式版直接推出。根据他个人推测，苹果的AI团队目前缺乏足够的时间进行测试，以测试版的形态赶上 WWDC。
此外，还有消息指出，苹果还计划为 Apple Watch 开发一款特殊的小型化的人工智能大模型，用于处理“健康”数据。
据外媒 AppleInsider 报道，苹果公司正在测试一个升级版的 Safari 浏览器，内置大量的生成式 AI 功能升级服务，其中包含界面优化、高级内容屏蔽功能以及名为“智能搜索”的人工智能驱动的新工具。
苹果希望借由 AI 功能改进 Safari 浏览器的用户体验，为用户提供工作便利与上网服务，以确保用户可以最大程度地留在苹果的操作系统生态当中。
据悉，该软件更新预计将在 2024 年晚些时候作为 Safari 18 正式发布，目前正与下一代苹果操作系统更新，包括 iOS 18 和 macOS 15，目前内部版本正在进行评估。如果所有新功能都能通过测试，用户将迎来全新的用户界面UI来自定义常用页面控制功能，以及“网页橡皮擦”功能和人工智能驱动的内容摘要工具。
近日，埃隆·马斯克在巴黎举行的 VivaTech 大会上发表了视频演讲和远程采访，谈到了一些关于 AI 的话题。
马斯克谈到了旗下 AI 初创公司 xAI 的聊天机器人 Grok，声称要将其打造成「又严谨、又追求真理、又是最风趣」的 AI 聊天机器人，不过他承认，Grok 在与 OpenAI 和 Google 竞争之前，还需要「迎头赶上」，马斯克也补充说可能能在今年年底实现追赶。
马斯克在会上措辞强硬地批评了 OpenAI 和 Google，表示 AI 应当被训练成诚实的，而不是「政治正确」的。
马斯克将训练 AI 和育儿进行了对比：重要的是你用什么样的价值观来培养它，我关心微软、Google、OpenAI 的价值观是否将 AI 导向负面。
根据彭博社在 5 月 24日的报道，xAI 将于 6 月完成一轮最新融资，融资后估值可能超过 240 亿美元，是目前业内仅次于 OpenAI 的最大“独角兽”。
当地时间周四，OpenAI 给绝大部分的前员工发送一则通知消息，宣布废除前员工公开谈论公司的各种情况的言论禁令，表示不会因为前员工评价前东家，而直接取消员工已归属的股权和任何已获得的利益。目前在职的雇员也都已经收到了相关的通知。
日前外媒Vox独家爆料称，OpenAI 给离职员工制定了相当严格的禁令，永久禁止离职员工谈论公司，否则将会失去股权，这意味着相当丰厚的利润。报道出街后，OpenAI CEO 奥特曼和首席战略官 Jason Kwon 对此表示了歉意，并表示此前「完全不知情」，但后来有新的消息曝光，在相关文件上出现了这两名高管的签名。
奥特曼在回复该报道的推文上写道：这是他在 OpenAI 工作中遇到最尴尬的一件事。
在上周，欧盟委员会全体决议，通过了全球首部《人工智能法案》。据路透社最新报道，欧盟数据保护委员会的一个特别工作组在法案通过后表示，尽管 OpenAI 在减少 ChatGPT 输出信息的错误率上做出了一定努力，但它仍然不足以确保“完全符合”欧盟的数据规则。
当地时间上周五，欧盟数据保护委员会发布了一份报告并指出，“为了遵守透明度的原则，OpenAI 采取了一些措施，也有利于避免 ChatGPT 输出错误信息，但这些措施仍然不足以遵守数据准确性的原则。”
早在 2023年，就有以意大利政府为首的国家监管机构此前对广泛使用的 AI 服务提出了担忧，欧盟数据保护委员会随后成立了“ChatGPT 特别工作组”。
一部分成员国的国家隐私监管机构仍在进行各种对 ChatGPT 的调查。据悉，“数据准确性”是欧盟保护数据规则的指导原则之一。报告还指出，“事实上，由于系统的概率性质，目前的训练方法导致模型也可能产生偏差或编造的输出结果”。此外，ChatGPT 输出的结果很可能最终被用户视作“事实准确”，不论其实际上的准确性究竟如何。
36氪获悉，字节跳动的大语言模型研发技术专家杨红霞，已于近日从字节跳动离职，并开始筹备 AI 创业项目。
36氪从多个独立信源处获悉，杨红霞正在开始筹备自家主导的AI创业项目。截至发稿前，字节跳动并未回应上述消息。公开资料显示，杨红霞毕业于南开大学、杜克大学统计科学系，师从著名统计学家David Dunson。她在人工智能领域国际会议、顶级期刊有近百篇顶级论文。
去年 3 月，曾有报道称杨红霞加入字节 AML（机器学习系统）团队，对上向字节跳动 AML 和豆包大模型 Foundation 团队的负责人项亮汇报，杨红霞曾经在美国西雅图从事大语言模型的研发。
相关文章
Altman
