台新金控在台北金融科技展上展示自研GenAI应用与LLM

在今年的台北金融科技展上，多家金融机构展示了他们的生成式人工智能（GenAI）应用。其中，台新金控也展示了包括升级后的智能客服、面向企业金融客户的拟真客服人员、影片生成服务以及音乐生成服务等应用。

然而，台新的亮点不仅在于GenAI应用本身，还在于其背后所运用的模型。台新没有直接采用云端现成的生成式AI服务，而是利用现成的基础模型进行预训练，定制出专属的大型语言模型。在今年台北金融科技展上，台新展出的客服相关应用就是通过一个名为“台新脑”的大型语言模型（LLM）打造而成的。甚至，台新金控资讯长孙一仕还宣称，预计最快在年底对外推出运用“台新脑”升级的智能客服。

自行训练LLM，靠“台新脑”和“工具脑”分工发展GenAI客服和特定任务

台新现有的大型语言模型分为两种，一种是“台新脑”，它是一个拥有370亿参数量的LLM，负责“了解台新”，用于发展智能客服等应用；另一种是“工具脑”，包含数个参数量较小的LLM，负责处理单一工作任务，比如报告生成、图片生成、影片生成等任务。

就“台新脑”而言，台新金控资讯长孙一仕表示，他们与外部厂商合作，首先利用云端资源训练拥有370亿参数量的LLM。训练完成后，再将模型放置在台新内部的本地环境中运行。从今年5月起，台新就训练出了第一版“台新脑”。孙一仕还提到，在测试“台新脑”的过程中，台新除了运用基本的中英文测试集外，还运用金融专业人士的考试题目来测试“台新脑”的金融知识。目前，“台新脑”已经经过了5轮测试，预计还会再进行2轮测试。

除了运用“台新脑”打造客服应用外，台新还预训练了数个参数量较小的开源大型语言模型，打造了数个处理特定工作任务的“工具脑”。例如，台新在台北金融科技展上展出的影片生成服务和音乐生成服务，就是通过不同的“工具脑”开发而成的，而不是通过“台新脑”打造的。

为了发展AI，台新预计已经投入了约3000万，光是硬件资源就包含16片Nvidia H100 GPU。此外，台新还组建了一支拥有20位AI专业人员的团队，负责训练模型、开发应用以及将AI应用与IT系统对接。并且，这支团队还要负责与业务单位讨论GenAI需求。

目前，台新内部落地的GenAI应用分为三类：“一个是智能客服，一个是内部知识管理，第三个是内部图片生成。”孙一仕表示，内部正在积极与各子公司合作，预计明年将推出12支AI应用，包括智能理财专员和智能对练等对内服务。

随着人工智能的飞速发展，越来越多的AI产品出现。尽早掌握AI尽早能获得更快一步的信息和机会，现在也有很多这样的AI服务平台，例如算家云，不仅有全新热门的模型，还有详细的使用说明文档，并且还提供了优质算力资源。

例如智能对话模型ChatGLM4，项目地址：
https://www.suanjiayun.com/mirrorDetails?id=66ac7d478099315577961758