苹果禁用ChatGPT,为防机密泄露!大模型版Siri即将升级推出

明敏 杨净 发自 凹非寺

量子位 | 公众号 QbitAI

前脚ChatGPT刚刚上线iOS嗨翻全球,火速霸榜APP Store;

後脚却曝出消息——苹果自家员工不能用ChatGPT,而且已经好几个月了。

这事儿马上引发巨大讨论。

要知道,从ChatGPT趋势到来後,苹果就几乎保持「隐身」,好不容易iPhone拥抱ChatGPT了,现在好像又泼了盆冷水。

有人已经开始嘲讽:

苹果是害怕员工发现AI真的有用吗?

所以他们要用自己的?最好别像Siri那样。

诶?还真说不定。

借着这次大新闻,苹果研究自家大模型的消息也不胫而走,而且Siri也将很快上线AI新功能。

最新库克公开表态:生成AI技术潜力很大,但有问题需要解决,也侧面印证了他们的AI进展。

所以苹果不是不搞,或许只是发布时间没到。

担忧数据泄露

据《华尔街日报》消息,苹果禁止员工使用的包括ChatGPT和Copilot。

知名苹果产品追踪记者也在推特上进一步爆料,ChatGPT在苹果员工禁用名单上已经好几个月了。

会有这样的决策倒也不稀奇。

一方面,ChatGPT本身在数据使用方面一直备受争议。

最初,除了API用户以外的所有用户聊天记录,都会被用来训练和提升模型性能,这意味着用户数据有被泄露的风险。

事实上,今年3月确实发生这样的意外事故。

一个bug导致一些用户的对话标题泄露,其他人能在自己的界面上看到这些信息。当时这个bug一度导致ChatGPT临时关闭。

上个月,OpenAI正式推出新规定,以进一步保护用户数据安全:

用户可以通过关闭聊天记录功能,来避免自己的个人数据被官方拿去训练。

另一方面,出於安全方面的考虑,不少大型企业都出台相关政策要求员工不要使用ChatGPT。

如亚马逊在1月就要求员工不要将代码输入ChatGPT,此前有消息称,它们发现了ChatGPT会模仿亚马逊内部代码。

摩根大通在2月限制全球员工使用ChatGPT,原因是出於合规方面的考虑。

还有更加离奇一些的,三星曾表示20天内因ChatGPT发生了3起数据泄露事故。

而一直以强调安全着称的苹果,做出类似举措也就合情合理了。

毕竟一旦员工不小心将机密项目的信息输入系统,这些内容就可能泄露给OpenAI。

还有人表示,ChatGPT的输出结果还是有出错的可能,或许会导致bug产生、数据漏洞等,所以大公司禁止使用也合情合理。

不过,ChatGPT爆火几个月以来,它在工作效率、工作创意上的提升是不可否认的。

很多人都将它加入到了自己的工作流,包括陶哲轩这样的大佬。

最初明令禁止学生使用ChatGPT的纽约公立中学,也在这两天内取消禁令。

所以不免有人担心,苹果这样封闭ChatGPT,是否会扼杀自身的创新能力。

值得一提的是,曾经禁止员工使用ChatGPT的亚马逊,近期也加入了大模型浪潮,发布自家大模型平台。

这也开始让人猜测,大厂不是不拥抱ChatGPT,只是要拥抱自己的ChatGPT?

事实上,苹果的最新语言大模型,真的有消息了。

Siri被曝很快上线新AI功能

据9to5Mac爆料,Siri将很快上线新的AI功能。

新技术代号为Bobcat,早在今年3月就被爆出已经在进行测试了——

首先是在最新tvOS 16.4 beta上测试,新框架叫做Siri Natural Language Generation(Siri自然语言生成)功能,之後这一功能进入到苹果的其他操作系统中。

但爆料显示只不过是实现了在Apple TV上与Siri讲笑话。除此之外,还在试验如何将语言生成用於计时器。

与此同时,这一新项目的领导人也被爆出。

John Giannandrea,目前是苹果负责机器学习和AI战略的高级副总裁,直接向库克汇报。

他早在2018年就加入苹果,负责监督整个公司的AI和ML战略以及Core ML和Siri技术的开发。在加入苹果之前,他曾在谷歌呆了八年,领导机器智能、研究和搜索团队。

而就在最近的投资者电话会议上库克表态,也侧面证实了他们在做相关的研发,只不过发布时机还没到。

此前,就有苹果员工曾抱怨Siri工作效率低下。Siri之所以逐渐走向没落,是因为内部团队混乱、决策缓慢、代码笨重,导致在Siri和AI开发上受到严重阻碍。

更本质的原因,还在於技术研发和判断上。

比如现在ChatGPT所展现的核心功能和技术,就曾被苹果高管否决过。

就像长对话能力,他们认为会导致对话容易失控,而且「很花哨」。

为了防止Siri胡言乱语,苹果选择让人工团队预先写出答案,并且还多次拒绝允许用户对Siri回答问题进行反馈,导致开发团队无法理解模型的局限。

虽然不能肯定苹果禁用ChatGPT,与自身开发AI工具有关。

但是苹果Siri上线新AI功能,想必也是不少人所期待了。

参考链接:
[1]https://www.wsj.com/articles/apple-restricts-use-of-chatgpt-joining-other-companies-wary-of-leaks-d44d7d34
[2]https://9to5mac.com/2023/05/18/apple-bans-employees-from-using-chatgpt/

— 完 —

量子位 QbitAI · 头条号签

关注我们,第一时间获知前沿科技动态约

什么是Chat GPT

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x