人工智能在核工业中扮演着什么角色？举个例子，Palantir 正在探索利用其人工智能帮助核运营商更快、更可靠地编写安全案例。Janet Wood 采访了该公司的 Nick Prettejohn。

人工智能能够提出一个与现有事物大致相似的新安全案例，并提取所有相关内容

人工智能 (AI) 是目前非常流行的一种概念，有人认为它可以解决许多当前的问题，也有人认为它是一种有风险的技术，可能会夺走人类用户的控制权。Palantir 英国和北欧地区人工智能主管 Nicolas Prettejohn 将其概括为“帮助公司解决最关键问题的软件”。

Prettejohn 解释说，人工智能的目的并非是更快地完成简单的事情（这通常是硬件或软件自动化类型的基本原理）。相反，人工智能的目的是赋予人们做困难事情的能力。

他举了一个简单的例子，说明一项任务比看起来要复杂得多：在一家跨国公司，文件使用不同的语言，涉及不同的许可制度，用非结构化的语言询问有关同意的问题。他说：“这些东西是最有用的。民间社会会谈论在关键情况下不要使用人工智能——但这正是所有好处所在。我们需要找到一种思考风险和缓解风险的方法。”

确实存在这样的风险：人工智能可能会对意想不到的问题给出“错误”的答案。一个经常被强调的人工智能问题是所谓的“幻觉”风险。Prettejohn 将此与与初级员工一起工作的经历进行了比较。他说，他们也可能会想出异常值，“但你可以在组织内部管理它。你有监督、制衡，人们会检查彼此的工作。当然，有些风险永远无法完全消除，而公司会使用保险。”

Prettejohn 说，大多数人都有 AI 代理——指的是核电站的控制室，几十年来，控制室已经从硬接线的“红灯”警报演变为提供可查询的详细信息和建议操作的屏幕。但他认为，AI 更像是同事。他解释说：“如果每个人都有助手，你们就可以随时讨论想法，尤其是如果他们有自己的知识库和运营经验——这将是一种合作。我们一些最成功的案例的主要目标是让最终用户看到他们从未想过的有趣视角。”

“借助人工智能‘辅助’，语言模型还可以访问企业知识，并可能从数据存储中探索用户未意识到的内容。”因为人工智能拥有所有知识的全部，“你实际上提升了你的操作能力，”他说。

Prettejohn 谈到了 Palantir 在医疗行业使用人工智能的经验。他强调，首要目标必须是提高质量，因为这需要用户的支持。他说：“我们总是从提高效率的角度考虑人工智能，但我们从医院的经验中了解到，使用人工智能并不能提高效率。人们关心自己的工作，如果一项技术不能提供更好的护理，他们永远不会采用它，永远不会。”专注于提供更好的护理可能包括，例如，制作更清晰、更准确的临床记录，安排更快或更合适的预约。“如果人工智能能带来更好的结果，他们会觉得可以依赖它并使用它。然后你就可以‘免费’获得效率提升。”他总结道：“通过编码专业知识，你可以扩大规模。”

Palantir 英国和北欧地区人工智能主管 Nicolas Prettejohn 将人工智能概括为一种帮助公司解决最关键问题的软件

对待世界的方式

Prettejohn 详细阐述了现有系统的一些局限性。“我们试图做的主要是让人们摆脱以‘源系统’看待世界的方式思考问题。”他说，源系统（可能是用于运行或维护资产的软件程序，或任何类型的信息存储）“几乎是设计好的，就是通过钥匙孔观察世界。”例如，一个系统可能显示通过电线传输了多少电力，但维护日志在另一个不“理解”电线中发生了什么的系统中。

Prettejohn 设想，用户必须对各种系统中正在发生的事情做出关键决策，并希望以一种易于使用的形式获取信息：“你正在寻找一个系统视图，告诉你‘那根电线断了，在那个地方，它影响了这么多客户，其中四个用户需要医疗用电。’”他说，此时，你不必担心信息是在该数据库的列中还是在另一个数据库的行中。“我们试图构建能够反映人们实际解决问题的方式以及他们解决问题时表示数据的方式的系统。事实、信息和语义。这需要一种不同类型的系统”，它将正在发生的事情的所有新旧信息联系起来，实时处理并将其作为辅助手段呈现。

这在实践中意味着什么？对于类似上述电缆故障的问题，通常会有解决问题的行动要点，但细节仍保留在不同的软件系统中，并根据数据源的不同而以不同的形式存在。他解释说：“我们开始将这些[细节]构建到软件中。但随后你可以开始针对数字孪生运行这些操作。你的语义模型会问‘如果我们这样做会发生什么，如果我们这样做会怎样’？最后，你会得到一个“行动计划”，该计划有数据、经验、技术细节等支持，人工智能系统可以将其“写回”工程和维护等系统，将作业添加到队列中，更改某人的工作或执行其他操作。最重要的是，用户可以使用正常语法而不是编码来提出非结构化问题。

Prettejohn 表示：“在系统中拥有如此深入的信息意味着我们不再是孤岛、不再是仪表板、不再是有用信息的排放口。这是一个经营业务的控制室，它看起来就像我们想要谈论业务的方式，也理解我们想要如何思考业务。”他补充道：“这是一个比以前更有效的控制室，以前有人需要拿着笔记本登录八个屏幕来尝试经营业务。现在他们可以在一个面板上完成所有操作”，使用用户熟悉的语言。

Prettejohn 补充说，该系统将发展“对语义的理解，并在网络深处开始理解实体之间的关系、这种关系是什么以及我们正在交流的意图与语法”。

安全案例

Palantir 正在探索利用其人工智能帮助民用核能运营商更快地编写安全案例。该公司的工程师一直在寻找这个机会。他们表示，出于多种原因，核能行业现在在编写安全案例方面有了新的需求。

首先是投资规模，许多新设计和新项目正在进行中。Prettejohn 说：“所需的安全案例数量已经大幅增加……我们面临的情况是安全案例需要迅速大规模生产。”他们将这一点与现在可用的安全案例撰写者进行了比较：“他们通常在组织中工作了很长时间，人们低估了这种技能的利基——这是一种非常专业的技能。从人员流失和退休来看，对安全案例的需求在增加，而能够制作安全案例的人数却在减少。这就是问题的症结所在。必须有所改变。”

该公司一直在研究如何加快这一进程。Prettejohn 解释道：“当我们想到核安全案例时，它们并不简单。每个案例通常有数百页，安全案例档案中通常有数百份文件。这是大量的文书工作。”单个建筑物的安全案例可以装满“一个又一个的储物柜”——这是真实的画面，因为在某些情况下，它涉及原始文书工作，而这些文书工作在任何地方都没有以数字方式记录下来。

该公司正在研究如何更快地创建安全案例。一个机会是能够引用旧的安全案例并将适当的部分转发给新的安全案例。Palantir 的软件使用嵌入模型快速扫描文本并找到未来安全案例中必须引用的部分。Prettejohn 解释说，这不像搜索关键字：“有趣的是上下文，而不是关键字，因此进行语义搜索比搜索关键字更有效。你可以找到使用该词的所有不同应用程序，并发现其中一些是有用的。”

这是为了节省时间，而不是成本。“看看建造核反应堆需要做些什么，成本和节省人力并不是你担心的事情……但能够参考旧知识并将其带入新知识很重要。”

另一个目标是文档验证和管理。“安全案例包含数百份文档和数千页，您需要能够将文档相互引用。”在一份文档中进行更改，确保在所有其他文档中进行更改，并确保所有文档都是最新的——这是“一件非常困难的事情”。Prettejohn 说：“这些文档不只是由一个人撰写的。即使由一个人起草，也会有多次修订，由不同的利益相关者撰写，他们需要在安全案例获得批准之前对其进行审查。因此，了解安全案例何时被修订非常重要，查看安全案例的两个变体以查看已修订的内容和原因也很重要。然后，您希望能够将这些学习应用于您正在生成的任何未来安全案例，以加速该过程。”

他进一步利用这个机会，在数百个安全案例正在编写的背景下。谈到英国这样的国家计划，他问道：“如果你能把它们放到一个中央平台并使用这些功能，你是否能够从头开始生成安全案例文档？

“你总是需要人类参与其中，在编写安全案例时也应该始终积极聘用人类，但有很多安全案例内容与正在批准的内容无关。有很多通用内容必须纳入，而且很多风险与许多不同的安全案例相关。”

考虑到之前安全案例的所有背景，你可以让人工智能制作一个与现有案例大致相似的新安全案例，并提取所有相关内容。这样，“你就不必从头开始，你有一个框架……我们都知道，写文件最难的部分是开始。能够给别人批改作业要容易得多。”

最后，他说：“安全案例并非只由一个人完成并签字，它们要经过许多不同的利益相关者。”由于大量案例是同时进行的，“在任何时候，你都需要某种系统能够随时跟踪每份文档的位置。”哪些利益相关者看过它？哪些部分已经审查过？提出了哪些意见？做了哪些调整？审计在哪里？谁在什么时候批准了什么？

在考虑施工期间的工作流程时，这一点非常重要。像核电站这样的大型场地有成千上万的人和复杂的信息，需要几天或几周的时间才能审查完毕。任何大型资本项目都会积累一堆“待批准”文件和未记录的在建工作。更重要的是，做一件不同的事情——而且做得更好——需要安全案例批准。但人们没有工具来比较和对比多个文档中的部分，也没有简单的方法来说明“这些是你必须关注的要点”。然而，人工智能可以通过查询与这一平方米土地相关的所有文件来回答一个非结构化的问题，比如“我可以在这里挖掘吗？”。

使用人工智能，用户可以使用正常语法而不是编码来提出非结构化问题

推理而非监管

普雷特约翰更笼统地说道：“我们试图教给人工智能的不是规则。我们试图教给人工智能的是推理。”

他用一个简单得多的流程来打比方——根据合同条款核对发票详细信息。“我们不会针对每一份合同对它进行培训，因为这是无法验证的。相反，我们教它如何去做。这都是逻辑关系。”

将其转化为安全案例，“您将拥有所有法规，逐条分解。如果您有任何案例历史，您可以将其作为另一种对象类型引入，您可以提起诉讼 - 这是监管机构采取行动的地方。”他说，“关键是要利用人工智能做它擅长的事情，这本质上就是假装推理事物，而不是用它来做它不擅长的事情，也就是记住事实。”

他再次用同事来比喻人工智能：“它永远不会疲倦，如果你不喜欢结果，你可以让它再做一次，所以你有机会随心所欲地进行修改。”

Prettejohn 还谈到了部门中产生的“部落知识”，以及如何获取人们头脑中储存的专业知识和经验。“新人必须花很多年的时间才能积累这些知识，”他说，“这些知识是无法获得的，如果不跟随他们多年，你就不会像他们一样高效，因为这些知识被锁在他们的头脑中——无论他们多么善于告诉别人，这永远是不完美的。”这会影响组织的敏捷性，或让新成员成为与在职多年的人一样优秀的团队成员。“有了这些默会(模糊)知识，我明天就可以去上班，虽然我对核安全案例一无所知，但如果我已经有这样的东西，并且已经内置了所有的逻辑，我就不会在三年的时间里完全没有效率地学习它。经过几周或几个月的熟悉后，你就至少可以有资深员工一半的效率。

“从这些角度来看，它将会改变整个行业。”

核技术论坛

阅读 赞 分享 言