人工智慧（AI）聊天机械人ChatGPT于去年11月30日以试用版形式推出。问世短短五天后，已有超过一百万用户注册使用。至今年1月，ChatGPT用户量呈野蛮式增长，在短短两个月内已达一亿大关，大幅超越TikTok（九个月）和Instagram（两年半）的用户增长纪录，成为短期内最热门的消费者应用程式。 大受欢迎的ChatGPT更成就了一种全球现象。无论是业界还是民间，都在积极地测试和热烈地讨论这一最新的人工智慧产品。ChatGPT的出现被预测将掀起一场科技革命，开创新的生产和生活方式，是颠覆历史的人工智慧产品。而ChatGPT引发的大量关注更直接点燃了“AI竞赛”。从Google、微软、苹果到百度，多个业界大佬都传出正在积极备战，争相推出最新产品，抢占市场先机。 你可能已经玩了ChatGPT一段时间，但你真的知道它是什么吗？我们整理了讨论ChatGPT时会涉及到的以下9个问题，试图与你一起探索这一股热潮。 什么是ChatGPT？ 在AI科技中，ChatGPT属于“生成式人工智慧”（Generative AI）中的“大型语音模型”（Large Language Model），主要透过自然语言处理（Natural Language Processing）模型分析大数据。“GPT”代表的是“Generative Pre-trained Transformer”，意即已被训练过的生成转化器。透过吸收网上大量数据及与人类互动的预先训练，它可以依照使用者输入的要求，生成跟人类语言相同的回应及提供所需答案。 所以⋯⋯简单来说⋯⋯ ChatGPT是一款人工智慧聊天机械人。“Chat“代表的就是聊天。当用户以文字输入提问或叙述时，ChatGPT会分析文本的意涵，搜集分析数据，再输出结果给用户。网路多方实测证明，ChatGPT除了具备基本对谈和搜寻资料的能力，更可以对复杂问题进行问答解惑、产生和为程式码纠错，甚至有创作能力，可以撰写小说、论文和剧本。 谁开发了ChatGPT？ ChatGPT的幕后开发者是总部位于旧金山的人工智慧研究实验室OpenAI，公司现任的首席执行官是阿特曼（Sam Altman），手下有375位员工。 OpenAI在2019年接受了微软10亿美元的投资，合作开发ChatGPT。今年一月，微软再宣布将向OpenAI注资数十亿美元，令OpenAI估值高涨至290亿美元。 除ChatGPT外，OpenAI另一重要产品是DALL·E；两者皆是“生成式”人工智慧，DALL·E可根据输入的文本指令生成图像，创建出艺术作品和文本。 OpenAI是非营利组织？ 2015年，由特斯拉创办人马斯克（Elon Musk）带头出资，阿特曼创立了OpenAI。当时，组织定位为一家非营利性研究公司，希望通过与不同团队的自由合作，向公众开放AI相关专利及研究成果，确保通用人工智慧能够造福人类社会。 2018年，马斯克从OpenAI辞职，专注经营Tesla和SpaceX。阿特曼于是将OpenAI重组为一家有限盈利（Capped-Profit）企业，OpenAI LP，以期可同时兼顾非营利企业的资金来源，以及营利企业的社会责任问题。至于原本的非营利组织则更名为OpenAI Nonprofit。 ChatGPT有什么功能? ChatGPT可以当作搜寻引擎，询问天气、专有名词或是历史事件。ChatGPT还能协助书写特定用途文本，像是： 回覆邮件：输入一段信件内容，让ChatGPT针对内容，产出一段回应信件。 故事创作：输入角色、时间背景或剧情等设定，让ChatGPT完成短篇故事。（已有外国网友用ChatGPT在周末时间编写和绘制出一本童书） 写程式：ChatGPT可依使用者需求，写出特定功能程式码，或是检查程式码是否有错。（经推友测试，哪怕是编程门外汉，也能轻松上手） 翻译：输入中文或英文内容，可以要求ChatGPT为你翻译成其他语言。 修改文法错误：输入一段文字后，能请ChatGPT判断是否有文法错物、如何修正。 写诗、歌词：输入关键字，ChatGPT就能写出符合主题、字数的诗词或歌词创作。（外国网友让ChatGPT创作了一首民谣，描写一个程式与它所产生的错误终生斗争的故事） 整理资料重点：能分析长篇幅的文本，进行条列、分类，甚至制作成表格。(用ChatGPT写论文的问题，我们将在后文进一步讨论) 噢，还有一些“另类”用法。 外媒报道，一名哥伦比亚法官巴迪亚（Juan Manuel Padilla）在审理贫困家庭的案件时，将案件的关键字输入给ChatGPT，并在判案过程中采纳ChatGPT给出的意见，免除该贫困家庭的预约看诊、交通及治疗的费用。虽然巴迪亚声称ChatGPT的意见只是用来参考，但运用AI判案的做法引起人们对法官道义和责任上的批评。 亦有医生使用ChatGPT填写医疗索赔申请表，以说服保险公司为病人买单。 最棒的是，使用ChatGPT是免费的！ ChatGPT如何运作和训练？ 大型语言模型 如前文所述，ChatGPT 是一种大型语言模型 (Large Language Model)。大型语言模型使用大量数据进行训练，以准确预测句子中接下来出现的单词——有点像自动填充。 斯坦福大学研究表明，AI聊天机械人的构建基于巨量的数据。OpenAI在2018年推出的第一代GPT有1.17亿参数，2020年5月发布的GPT-3高达1750亿参数，多了一千多倍。参数的增加极大地改变且优化模型的行为——GPT-3能够执行它没有明确接受过训练的任务，比如将句子从英语翻译成法语。 ChatGPT所使用的GPT-3.5则更为人性化。它接受了来自互联网的大量代码和资讯数据，来源包括网路热门社区（比如Reddit），因此能学习新新人类的对话方式并作出自然的回应。 虽然目前GPT-3.5尚未公布参数量，但专家分析认为ChatGPT的参数量应超过3.4亿，算得上是史上最强AI。 不过，大型语言模型仍有局限性，它们并不总是能准确理解人类的需求。 人类反馈强化学习 因此，ChatGPT需要通过人类反馈强化学习 (Reinforcement Learning with Human Feedback)来培训改进现有技术。 通过人类反馈强化学习的训练，ChatGPT能够了解人类在提出问题时的期望。ChatGPT与简单的聊天机械人或应用程式（比如Siri, Chat-bot）的不同之处在于，它经过专门训练，可以理解提问者的意图，更好地预测且提供令人类满意的答案。 这也是为何在ChatGPT推出两个月后，业界已有声音断定“Google已死”。因为ChatGPT比Google更加先进，更能够满足搜寻者的需要。由于ChatGPT不再停留于只提供相关网站的资料，而是直接给予用户要求的答案，完全省却了用户在浩瀚的网路世界中搜寻拣选所需答案所花费的时间和心思。 ChatGPT更像是一个脑海里装了百科全书的机械人，但它又有人工智慧——具备分析、预测和纠错能力，且能理解用户的需求。 ChatGPT有哪些争议？ ChatGPT率先引发的是学术伦理争议。由于ChatGPT能帮助用户撰写学术文章，越来越多大学教授指出，自己收到学生利用ChatGPT生成的文字报告，无法判断学生程度，还有抄袭的疑虑。为此，坊间出现了不少专门侦测ChatGPT的反抄袭软体，像是GPTZero，亦有学校将电脑设定过滤，阻挡学生访问ChatGPT官网。ChatGPT未来也计画加入浮水印，防止学生用AI交功课。 资安威胁上，ChatGPT也备受讨论。ChatGPT可以使用的资料库，不少来源于网路，甚至包括推特等社交平台，意味着ChatGPT可能学到缺少事实核查的内容，进一步生成不正确或是错误资讯。 此外，网路钓鱼邮件诈欺、网路求职及交友诈欺、甚至是政治文宣（political propaganda），都可能受益于ChatGPT，变得更为猖獗和难以禁止。试想一下，以往的跨国诈骗电邮常因语言翻译不到位而露出破绽，但是有了具备翻译和文字生成功能的AI，恐怕更难识破。 ChatGPT未来会怎样发展？ ChatGPT Plus和GPT 4 ChatGPT大热后，OpenAI决定推出实验订阅计画ChatGPT Plus，定价每月20美元。付费版的ChatGPT将提供多项增值服务。同时，免费服务也将被保留。 至于OpenAI何时推出GPT-4模型，阿特曼态度保守，认为公司将在确认AI的安全性后才会推出，并表示GPT-4不会是“通用AI”（Artificial General Intelligence）。想让AI模型拥有人类认知能力，阿特曼强调，目前仍不可能。 AI语言模型竞争渐入白热化 ChatGPT引爆了一场语言模型大战，矽谷大厂们剑拔弩张。 在Google发布了下一代AI对话系统“Bard”以对标ChatGPT后，微软立刻官宣了新版必应“Bing”和Edge的消息。虽然目前功能有限，但新版Bing已开始体现它作为新型搜索引擎的优势，介面的整合也令使用者能更快速和方便地寻找到自己想到的答案。 除了Google和微软外，苹果也计画举办一场内部的AI峰会。苹果的聊天机械人技术曾引领业界，但这些年却停滞不前。 就连中国网路巨头百度，也在这股AI浪潮中加紧脚步，宣布将于3月推出聊天机器人“文心一言”（Ernie Bot），刺激相关股票逆市上涨。 ChatGPT会替代人类、造成失业吗？ 学界认为，AI机器人可以书写简单电邮、人事相关信函、新闻稿、初级法律文件等，也能建立或取消会议，很可能冲击行政、文书等职业；甚至编写基础代码的工程师也有机会被AI取代，减少相关工作职缺。 每一次科技的进步，都以取代人力为结果。随着AI技术的精进，从事初级文字和图像工作的业者首当其冲。不论是内容作者、撰稿人、平面设计师，甚至是客服人员，都需要在这一波ChatGPT大潮中，经受考验。 ChatGPT是否比人更聪明？ 人工智慧叛变（AI Takeover）是科幻作品中的经典情节，反映了人类对人工智慧技术崛起的深层忧虑。掌握了人工智慧的AI产生了自觉，不再服从人类并起兵叛变，夺取控制权，最后彻底地消灭和奴役人类。 ChatGPT的出现令这一忧虑更为具象，它的确可能比人更聪明。 谷歌程序员Kenneth Goodman运用ChatGPT应试。结果显示，ChatGPT在美国医学执照考试中和律师资格考试中，皆答对了70%的考题；在另一项法律考试（The Multistate Professional Responsibility Examination）中拿到9分，满分为 15 分；在纽约州高中化学考试的多项选择题部分中获得 78% 的分数 ；并在法学院入学考试中排名第 40 个百分位。另有一名美国高中英文老师断言，ChatGPT的写作能力已经超越当今大多数学生。 亦有讨论认为，ChatGPT背后的AI模型已符合心智理论（Theory of Mind），能理解自己以及周围人的心理状态。GPT-3以后的AI模型，其同理心能力可能已经和一个九岁孩童相当。因此，ChatGPT未来的发展方向将彻底挑战人类对“智慧”和“人类独特性”的认知和假设。 言之尚早 不过，ChatGPT当前的技术仍在初生阶段，所能接受的也只是文本指令，而非图像和语音。OpenAI的执行长阿特曼亦表示，ChatGPT主要功能还是协助使用者节省更多时间，即便自动产出的文字内容大多数都符合逻辑和语意，但仍需要真人检查与修饰，无法取代单一工作职位。一无所知的AI？ 本文作者认为——不一定对，仅供参考——整个人工智慧技术中最吊诡的部分就在于，AI其实一无所知。 ChatGPT作为人工智慧，只是经过训练去识别和收集大量资料，然后在人类的帮助和要求下提供更有用、更好的答案。正如 OpenAI 所警告的那样，用户得到的答案可能看上去相当权威，但极有可能是完全错误的。 在了解了ChatGPT的局限性后，许多网友也进一步发掘了它的不完美之处。有网友测试发现，运用简体和繁体中文向ChatGPT询问相同的问题，将得到不同的答案。这也显示了文本资料库的不同对于ChatGPT产出答案的直接影响。 因此，在我们忧虑科技终将取代人，或人工智慧将控制世界前，更为急迫的问题应该在于如何更好地规范和优化人工智慧技术来造福人类，以及是否人人都有公平的机会去使用这一新技术。毕竟，无法使用工具的人将率先被淘汰。