我将总结一些已发现的最奇怪的人工智能概述
Posted: Thu Dec 26, 2024 4:19 am
分享一位前谷歌员工对我们为什么现在接触这一功能的看法，并关注一个著名的现实检验轶事，该轶事表明为什么已知的人类轻信需要在任何大型公共实验中被负责任地考虑在内。
人工智能概览失败，从愚蠢到危险
当你看到这些例子时，我希望你在脑海中记住你的个人经历，这个经历告诉你，人类是多么容易被欺骗、愚弄、误导、欺骗或误入歧途。
让我们从Shawn Huber提供的关于谷歌新 AI 概览功能的一个（可能）无害的例子开始，当搜索者想要知道哪些美国总统曾就读于威斯康星大学麦迪逊分校时，该功能出现了错误：
一份 AI 概述指出，多位美国总统 塞浦路斯电话号码库 在去世后多次从同一所大学毕业。
我们可以试着告诉自己，任何有逻辑的人都会意识到，像詹姆斯·布坎南（1868 年去世）这样的总统不可能在他去世的两个世纪里毕业三次，或者 1963 年被暗杀的肯尼迪在三十年后没有上过大学。我们希望大多数人会意识到几乎所有这些人工智能答案都存在严重问题。
但是，如果你现在十岁，没有在学校学习几十年前的美国历史，而是试图通过查看谷歌的这个看起来非常官方的答案来研究一份学校报告，而这个答案的排名高于他们的其他所有结果，那会怎么样呢？你会从网络上获得什么样的教育？你会如何看待这些信息、历史和谷歌？
让我们尝试一个更简单的问题。Lily Ray只是想看看一些 50 多岁女性的例子，但却得到了一位 80 多岁的老人和另一位年龄不详的候选人：
人工智能概览失败，从愚蠢到危险
当你看到这些例子时，我希望你在脑海中记住你的个人经历，这个经历告诉你，人类是多么容易被欺骗、愚弄、误导、欺骗或误入歧途。
让我们从Shawn Huber提供的关于谷歌新 AI 概览功能的一个（可能）无害的例子开始，当搜索者想要知道哪些美国总统曾就读于威斯康星大学麦迪逊分校时，该功能出现了错误：
一份 AI 概述指出，多位美国总统 塞浦路斯电话号码库 在去世后多次从同一所大学毕业。
我们可以试着告诉自己，任何有逻辑的人都会意识到，像詹姆斯·布坎南（1868 年去世）这样的总统不可能在他去世的两个世纪里毕业三次，或者 1963 年被暗杀的肯尼迪在三十年后没有上过大学。我们希望大多数人会意识到几乎所有这些人工智能答案都存在严重问题。
但是，如果你现在十岁，没有在学校学习几十年前的美国历史，而是试图通过查看谷歌的这个看起来非常官方的答案来研究一份学校报告，而这个答案的排名高于他们的其他所有结果，那会怎么样呢？你会从网络上获得什么样的教育？你会如何看待这些信息、历史和谷歌？
让我们尝试一个更简单的问题。Lily Ray只是想看看一些 50 多岁女性的例子，但却得到了一位 80 多岁的老人和另一位年龄不详的候选人：