拆解生成式人工智能思考方式 与人类认知大不同

人类认知与生成式人工智能（GenAI）的运作方式截然不同。香港教育大学研究团队曾运用GenAI分析5万则网上帖文，成功侦测其中的假资讯，这项研究告诉我们，若能理解GenAI的运作机制，便可有效引导它辨别真伪 1。根据研究发现，可将字词、文本和语言类别想象为空间中的“物件”，而GenAI则在此空间中穿梭以生成回应 1。由于人工智能本质上是在数据地图中寻找路径，因此我们的指令须明确指出其角色定位，才可将人工智能引导至正确的专业领域 1。 以绘制婚礼场景为例，人类画家不仅要捕捉画面，还会注入自身记忆，为作品增添社会现实感 1。社会规范、习俗、赞助者与竞争对手的期望，共同塑造了画家的创作 1。GenAI同样运用影像、声音和文化资讯生成作品，但它的训练数据在艺术、建筑、宗教与仪式等面向的覆盖范围，往往超出人类界限 1。GenAI的作品也能塑造持份者的社会现实，即使GenAI没有信仰或经济考量，其数据往往隐含了人类的价值观 1。因此，GenAI能否将这些资讯整合为对人类有益的道德回应，仍是关键课题 1。 要理解GenAI的运作，须观察它如何组织数据 1。以“狗舔男孩”（dog licks boy）为例，每个词都是空间维度上的一点：“狗”对应肉食动物类别，“舔”代表触觉或动作，“男孩”则是人类 1。这三个词相互连结，形成一条“路径” 1。词与词之间的相邻关系会影响语义，例如bank在“银行柜员”（bank teller）和“河岸”（river bank）中的意义截然不同 1。 根据2017年的研究《Attention Is All You Need》，模型加入了能令相关词汇互相“吸引”的“磁铁效应”，调整了词汇之间的关系，形成“磁化路径” 1。当我们要求GenAI创作故事时，它就会利用路径的“惯性”，以概率逐字挑选下一个词 1。例如，“狗舔男孩”正是电影《沙地传奇》（The Sandlot）剧本路径的情节核心与中心点 1。精确的提示能收窄这条路径，确保人工智能的产出符合预期 1。 所谓“意义”，就是一段句子或电影在空间中所占据的位置 1。因此，若从数据中删除儿童色情等不当内容，等同于在空间里留下一个“空洞” 1。除了内容，我们还须检视GenAI产出的真确性 1。假设存在一个由事实（如二加二等于四）组成的空间，若训练数据充斥着谎言、夸大或失实，这些“错误资讯磁铁”便会将事实拉离原位，导致语义扭曲 1。 研究团队进行侦测假资讯的研究时，发现真实资讯的路径通常稳定且集中，而假资讯则会产生异常的偏移 1。因此，GenAI需要大量且高品质的数据来对抗这些“错误资讯磁铁” 1。使用者则要提防那些看似真实的“幻觉”，仅利用人工智能梳理结构及分析，再由真人验证事实 1。 与人类不同，GenAI并不具备推理能力，其答案往往难以解释 1。值得注意的是，人类训练数据有瑕疵的话，GenAI的产出亦有缺憾 1。如果将这些错误产出再喂回训练流程，错误将会倍增，形成吞噬一切的黑洞，造成“模型崩溃”（model collapse） 1。为了防止这种情况，部分公司已不再将GenAI生成的内容纳入后续训练数据中 1。 此外，若无明确禁忌，GenAI可以展现极致创意，也可能产出恶劣内容 1。因此，研发公司必须建立防护栏 1。为了确保人工智能真正符合人类需求，我们必须明确指定其角色与目的 1。例如：“你是一位专业物理老师。请向十五岁学生解释黑洞。”透过赋予身份与目的，我们才能引导人工智能的路径，真正为人类提供服务 1。

在香港这个假资讯迅速传播的数码环境中，理解GenAI的局限性对教育工作者、记者和政策制订者至关重要 1。研究强调，虽然GenAI是强大的分析工具，但人类验证仍然不可或缺——人工智能应用于梳理和分析资讯结构，而非作为不可争议的事实来源 1。