Ropers Majeski 基于至强® CPU 利用 LLM 显著提高生产力

概述

Ropers Majeski 通过与英特尔、Activeloop 和 ZERO Systems 合作，借助性能出色的内置 AMX 和 AVX-512 等加速器的第四代英特尔® 至强® 可扩展处理器，打造了可自动处理多种数据任务的多层 AI 系统，让数据更安全，同时大幅提高员工生产力。该系统投入运行后，Ropers Majeski 的文件摄取速度提升高达 2.3 倍，知识型员工的生产力提升高达 18.5%，每位用户每天平均节省多达 75 分钟。

快速获取案例

PDF

概览

使用与英特尔、Activeloop 和 ZERO Systems 合作制定的多层生成式 AI 解决方案，律师事务所 Ropers Majeski 获得了以下收益：

将知识型员工的生产力升高达 18.5%，使每人每天节省多达 75 分钟的时间¹。
将文件摄取速度提升高达 2.3 倍¹。
同时满足严格的监管和安全要求。

Ropers Majeski 与英特尔、Activeloop 和 ZERO Systems 合作，将先进的硬件和数据存储与基于大语言模型的生成式 AI 解决方案相结合，打造了更强大、更可靠且更安全的 AI 解决方案。

执行概要

Ropers Majeski 是一家发展成熟的中型律师事务所，希望通过基于 AI 的解决方案实现各种数据处理任务的自动化，以简化运营，同时确保数据安全性和合规性。Ropers Majeski 通过与英特尔、Activeloop 和 ZERO Systems 合作，借助性能出色的第四代英特尔® 至强® 可扩展处理器，打造了多层 AI 系统。这一解决方案在让数据更安全的同时，大大提高了员工生产力。

挑战：更快速且更安全地处理数据

70 多年来，律师事务所 Ropers Majeski 始终致力于为全球客户提供高质量的法律咨询服务。他们一直想方设法通过自动化的方式处理文件管理、归档、计时、存储和信息检索等多种任务。这些任务通常是由他们的知识型员工手动执行，这不仅会导致结果不准确，也让高素质专业人员耗费了宝贵的非计费时间。

自动化解决方案必须能够快速、可靠处理大量数据，以确保监管合规性，并且还要满足处理敏感客户信息涉及的安全规定。例如，所有数据都必须保留在内部，确保供应商无法接触到机密文件。

解决方案：多层 AI 方法

Ropers Majeski 与英特尔、Activeloop 和 ZERO Systems 合作，将先进的硬件和数据存储与基于定制化大语言模型 (LLM) 的生成式 AI 解决方案相结合，打造了更强大、更可靠且更加安全的 AI 解决方案。ZERO Systems 的专有 AI 引擎 Hercules 为生成式 AI 应用提供支持，用于对客户机密资料进行标记、归档和索引，并帮助生成邮件等内容。

Activeloop 的 AI 数据库 Deep Lake 则提供安全的企业级存储，可存储数百万敏感文件的嵌入和多模态数据，并为 ZERO Systems 的解决方案提供先进的基于角色的访问控制。

在生成式 AI 与法律等监管严格的行业的融合过程中，这样的战略合作伙伴关系只是一个开端。

——Gevorg Karapetyan，ZERO Systems 联合创始人兼首席技术官

第四代英特尔® 至强® 可扩展处理器带来了强大的计算能力，让客户不必投资昂贵的专有解决方案。这些 CPU 针对 AI 推理进行了优化，通过嵌入式加速器显著提高了性能和效率。例如，英特尔® 高级矢量扩展 512（Intel® Advanced Vector Extensions 512，英特尔® AVX-512）有助于提升深度学习以外的场景或应用中的矢量计算效率。内置硬件加速器英特尔® 高级矩阵扩展（Intel® Advanced Matrix Extensions，英特尔® AMX）则可助力实现 AI 加速。

英特尔与 Activeloop 和 ZERO Systems 通过英特尔® Disruptor Initiative 建立合作。英特尔® Disruptor Initiative 旨在通过提供技术支持和多渠道上市活动助力其成员实现增长。

结果：速度更快，生产力更高

多层系统搭建完成并投入运行后，Ropers Majeski 发现，知识型员工的生产力提升高达 18.5%，每位用户每天平均节省多达 75 分钟。这一解决方案通过自动执行邮件处理、文件归档和报告生成等任务，将文件摄取速度提升高达 2.3 倍¹。

这种效率的提升，包括近实时的信息和洞察检索，让员工可以在不牺牲准确性的情况下专注于计费工时。此外，即使在员工无法连接到互联网的情况下，AI 系统也能根据员工的活动帮助创建工时卡，并对邮件和文件进行整理。

英特尔® Disruptor Initiative 团队为所有合作伙伴提供了十分个性化的服务。这让我们很欣喜，因为这样的服务在与其他公司合作时并不多见。事实上，在与大公司的合作中，初创公司听到了很多无意义的建议。但我可以肯定地告诉你，英特尔是个例外。

——Davit Buniatyan，Activeloop 首席执行官

借助英特尔® AVX-512，第四代英特尔® 至强® 可扩展处理器可以在每个时钟周期内处理更多操作，将 Activeloop 无服务器张量查询引擎 (Serverless Tensor Query Engine) 的查询检索速度提升高达 100 倍²。这一结果满足严格的安全要求，这在法律技术等监管严格的环境中至关重要。

“我们很高兴通过英特尔® Disruptor Initiative 与 ZERO Systems 合作，为终端客户创造高价值。”英特尔公司企业分析与 AI 首席技术官、战略云与企业（CSV 事业部）负责人 Arijit Bandyopadhyay 解释道，“配备英特尔® AMX 等内置 AI 加速器的新一代英特尔® CPU 与其他基于英特尔® 架构的软硬件相结合，成就了出色的生成式 AI 解决方案，它带来的性能和总体拥有成本 (TCO) 优化有助于提高整体解决方案的一致性和安全性。”

“这正是英特尔® CPU 的优势所在。”Activeloop 首席执行官 Davit Buniatyan 说，“当 GPU 可用性受限时，英特尔® 处理器便能提供运行和调优 LLM 的计算资源。”“借助 Deep Lake 的高性能数据加载器 (dataloader) 和张量查询引擎，ZERO Systems 这样的先驱就能用较低的成本基于英特尔® CPU 开发突破性的生成式 AI 产品。”他补充道。

“此外，企业可以使用他们熟悉的现有架构，而无需投资昂贵的新硬件。”ZERO Systems 首席技术官 Gevorg Karapetyan 说，“利用 CPU 实施您的解决方案，不仅可以大大提高效率和成本效益，而且还能帮助客户更轻松地部署解决方案，让客户无需等待。”

“我们非常高兴能够利用现有的英特尔® 系统，我们希望继续利用先进的 AI 技术来简化运营。”Ropers Majeski 的 IT 总监 Maks Agamir 表示。

Agamir 解释道，英特尔、Activeloop 和 ZERO Systems 合作提供的 AI 解决方案实现了重复性任务的自动化，这将提高 Ropers Majeski 经验丰富的知识型员工的工作表现。“技术并非我们的主要业务，法律才是。”Agamir 说，“律师和法律专业人士的工作满意度更高了，因为当他们结束了一天的工作后，不再需要亲自整理每封邮件、每份文件，只需看一眼，便可以说，好了，AI 都完成了。”