人工智能

识别不是道德原则,而是肮脏的把戏!

自从我开始从事这个项目 莱拉,一个人工智能生态系统,支持专门为企业服务的对话代理,我了解到人工智能提供了巨大的发展和创新机会,但不幸的是,大多数声称使用它的公司实际上只是实施了营销策略。

Google Duplex 的病毒视频

Google Duplex 一经推出,立即引起了网络的关注。 期间提出 Google IO 2018,这项基于人工智能的技术设法模拟人类意图,代表其用户在美发店预订会议和餐厅的餐桌,从而与两家企业保持相当流畅的电话交谈。

即使对许多人来说,视频演示看起来也很真实 这是假的. 当然,看起来相当复杂的对话如果没有巧妙地组合起来,肯定是多次尝试和一点运气的结果:在两个成功的电话中,我们不知道有多少其他 Google Duplexes 可能惨遭失败。

演示的效果让我想起了亚马逊在 2013 年所做的精彩演讲,在 Youtube 上发布了一段视频,它向全世界展示了 亚马逊Prime Air,基于无人机的创新配送系统; 这个革命性的系统,经过多年,仍处于试验阶段,我们凡人已经习惯了这样的想法,即“所有”这些科幻小说发现最终只是一种制作病毒视频的新方法。

Google Duplex 让我印象深刻的是,这个小剧场围绕着一个所谓的道德问题,在视频发布几个小时后就已经提出,并立即被最重要的在线报纸重新推出。 简而言之,根据一些人的说法:模拟人类行为的人工智能如果伪装自己的本性并假装是人类,就会出现伦理问题。

谷歌回应的快照:“Duplex 将立即被您的对话者识别“。

让我们退后一步

谷歌一直习惯于我们使用它的技术,从不透露它们是如何制造的以及它们是如何工作的。 它的搜索引擎代表了这一理念:底层算法是价值不可估量的工业秘密,没有人认为自己有能力泄露其秘密。 正是由于其深不可测的性质,我们已经习惯于不质疑它的有效性,无论是真实的还是假定的。 我们只是使用它。

如果从一个页面传递到另一个搜索结果的数量是否发生变化,这并不重要; 或者,如果我们的研究中出现了我们从未想过会与我们的意图相关联的东西。

然而,这些小故障在我们看来只是不完美,系统中的小缺陷,如此复杂,以至于有时我们怀疑是谷歌是对的,而我们是错的。

以 Google Search Suggest 为例,这是一个自动完成系统,Google 在我们写作时使用它来建议要查找的内容。 对我来说,这个系统比 Google Duplex 引发了更多的道德问题,它看起来有用且智能,但在其有效性背后隐藏着真正的黑客的把戏:Google 搜索引擎处理“关键字”,即代表搜索意图的词组的用户。 每个新关键字都是一种需求的表达,需要特定的处理才能让 Google 能够做出充分的响应。 谷歌拥有非常强大的计算能力,但今天,想象根据“任何可能的单词组合”来组织其引擎的结果是不切实际的。

创新通讯
不要错过有关创新的最重要新闻。 注册以通过电子邮件接收它们。
与 Google Duplex 相比,Google Search Suggest 引发的道德问题要多得多。

出于这个原因,谷歌只关注那些已经表达了足够多的时间来成为广泛需求的关键词。 对于其他一切,他即兴发挥:相似的词,与其他关键字的相似性,随机文本的识别是用于处理那些原本没有出路的情况的系统。

结果的数量(如页面数量)会随着搜索页面向前移动而发生变化,并且您永远无法检查超出某个页面的结果:让我们明确一点,第 30 页上的结果对任何人都没有用,但是为什么声称如果可以查看不到 160 个,关键字“printed stems”是否有 300 个结果?

Google Search Suggest 是 Google 试图“预测我们”的方式:通过建议它已经知道的搜索意图,Google 试图引导我们进行搜索,它能够在没有技巧的情况下回答:说服用户使用密钥谷歌不仅返回了一个有用的结果,而且避免了将一个新的关键字添加到它必须花费一些计算能力的列表中。

操作功能放纵

回到 Google Duplex,我们已经是 2022 年了,我们已经有一段时间没有谈论它了,但是从这次经历中我们了解到,将其识别为人工对话系统并不是解决道德问题的答案,而是黑客的把戏:如果那些与 Duplex 交谈时知道他正在与一个自动化系统交谈,他也知道他必须充分移动,在对话中支持他并帮助他理解其内容。

对于 Google Duplex 而言,将其识别为人工系统并不是解决道德问题的方法,而是黑客的伎俩。

当我们与 Cortana、Alexa、Siri 交谈时,我们总是自动使用相同的表达方式、相同的公式,因为如果我们想避免不被我们的系统理解,这是必不可少的。

对 Google Duplex 而言,识别是一种让人们“了解”他们的极限的方式,这是一种操作功能放纵的形式,我们所有人都已经学会了对这项技术的追求,虽然努力,但并没有回馈一切他们承诺的创造者。

艺术作品 Gianfranco Fedele

创新通讯
不要错过有关创新的最重要新闻。 注册以通过电子邮件接收它们。

Articoli最新回应

Veeam 为勒索软件提供最全面的支持,从保护到响应和恢复

Veeam 的 Coveware 将继续提供网络勒索事件响应服务。 Coveware 将提供取证和修复功能……

四月23 2024

绿色和数字革命:预测性维护如何改变石油和天然气行业

预测性维护正在通过创新和主动的工厂管理方法彻底改变石油和天然气行业。...

四月22 2024

英国反垄断监管机构对 GenAI 向 BigTech 发出警报

英国 CMA 对大型科技公司在人工智能市场的行为发出了警告。那里…

四月18 2024

Casa Green:意大利可持续未来的能源革命

欧盟为提高建筑物能源效率而制定的“绿色房屋”法令已结束其立法程序……

四月18 2024