阿尔文德·纳拉亚南萨亚什·卡普尔
AI是一个涵盖一组松散相关技术的统称。像ChatGPT这样的软件，与银行用来评估贷款申请者的软件几乎没有任何相似之处。尽管它们都被称为AI，但在核心原理、运行方式、应用场景、目标用户以及可能出现的失效方式上，这两种技术之间存在巨大的差异。
聊天机器人以及Dall-E、StableDiffusion、Midjourney等图像生成工具，都属于生成式AI的范畴，这类AI工具能够在几秒钟内生成多种类型的内容。生成式AI技术发展迅猛，进步显著是毋庸置疑的。然而，作为一款产品，它仍然处于初级阶段，存在不成熟、不可靠以及易被滥用的问题。同时，在普及过程中也伴随着过度宣传、恐慌情绪以及误导性信息的传播。
与生成式AI相对的是预测式AI，这类AI通过预测未来的趋势辅助当前决策。例如，在警务工作中，预测式AI可能被用来估算“明天这个地区可能会发生多少起犯罪事件”。
如今，预测式AI已被政府和企业广泛使用，AI可以分析数据并识别其中的统计模式，但这并不意味着它非常有效。预测未来始终是一项艰难的任务，而AI并没有改变这一点。
AI万金油（AIsnakeoil）一词指的是那些名声赫赫，但实际无法达到其宣传效果的AI技术。由于AI的应用领域非常广泛，许多人尚难分辨哪些AI技术能够按照预期运作，哪些仅仅是过度夸大的幻想。这种现象揭示了一个重要的社会问题，那就是我们必须学会辨别AI的优劣，才能最大化其潜力，同时有效规避可能带来的风险，而这些风险在许多情况下已经初现端倪。
本书是一本帮助你识别AI虚假宣传和炒作的实用指南。在书中，我们将为你提供必备的词汇，帮助你区分生成式AI、预测式AI及其他类型的AI。
生成式AI在2022年11月随着Chat-GPT的发布而走入公众视野。讽刺的是，其开发者OpenAI并未大力宣传，甚至在内部仅将其定位为“研究预览”。然而，它在短时间内迅速传播开来，并引发了广泛关注，人们纷纷分享其有趣且令人惊叹的能力。
仅仅两个月时间，该应用程序的用户数量就突破了1亿。这场突如其来的用户热潮让OpenAI猝不及防，甚至未能提前准备足够的计算资源来应对激增的流量需求。
微软迅速从OpenAI获得技术授权，并在其搜索引擎必应中推出了一款基于搜索结果回答问题的聊天机器人。相比之下，谷歌早在2021年就开发了自己的聊天机器人，但一直未发布或将其整合到产品中。微软的举动被视为对谷歌核心业务的生存威胁，这促使谷歌紧急宣布推出自己的搜索聊天机器人，最初命名为Bard（后更名为Gemini）。
问题很快显现出来。在Bard的宣传视频中，聊天机器人声称詹姆斯·韦伯空间望远镜拍摄了首张太阳系外行星的照片。然而,这一说法被一位天体物理学家指出是错误的。这些错误不仅使谷歌陷入尴尬境地、付出高昂代价，更揭示了聊天机器人在处理事实信息时可能存在的问题。
这些问题的根源在于聊天机器人的构建方式。它们通过学习训练数据中的统计模式来生成文本，而这些数据大多来自互联网。
技术被滥用的情况屡见不鲜。许多新闻网站发布的AI生成报道，不仅内容充满错误，还涉及财务建议等重要话题。即便这些错误已被曝光，网站依旧拒绝停用该技术。
聊天机器人的缺陷与滥用显而易见，这似乎很容易得出“人们对这种易出错技术的痴迷难以理解”的结论，然而这种看法未免过于片面。
我们认为，大多数知识密集型行业其实都能以某种方式从聊天机器人中获益。真正的关键并非技术本身无用，而是使用过程中难以规避的潜在陷阱——要想避开这些问题，需要持续投入努力与实践。但现实是，不当使用往往比合理应用更容易发生，尤其是对试图快速获利的群体而言，比如部分出版商出售AI生成的书籍，却对内容质量漠不关心。这种“重利益、轻规范”的短视心态，正是聊天机器人被滥用的根本原因。
（作者分别为普林斯顿大学计算机科学教授、博士）
盛达优配官网-最安全靠谱的配资公司-在线配资论坛官网-炒股公司提示：文章来自网络，不代表本站观点。
