随着人工智能技术的飞速发展，大模型工具在各个领域中的应用越来越广泛。然而，近期大模型工具Ollama的安全风险被曝光，引发了关于是否应该禁用大模型工具的讨论。本文将从安全风险、合理使用和解决方案三个方面进行探讨。
一、大模型工具的安全风险
未授权访问：Ollama默认配置下，本地部署的Web服务默认开放11434端口，且无任何鉴权机制，导致未授权用户可以随意访问模型，并利用特定工具直接对模型及其数据进行操作。
数据泄露：通过特定接口，攻击者可以访问并提取模型数据，引发数据泄露风险。例如，通过/api/show接口，攻击者可以获取模型的license等敏感信息。
历史漏洞：Ollama框架存在历史漏洞（CVE-2024-39720/39722/39719/39721），攻击者可以利用这些漏洞实施数据投毒、参数窃取、恶意文件上传及关键组件删除等操作。
二、合理使用大模型工具
尽管存在安全风险，但大模型工具在合理使用的前提下，仍具有巨大的价值。以下是一些合理使用大模型工具的建议：
修改默认配置：修改Ollama的默认配置，限制端口监听范围，仅允许本地访问，并验证端口状态。
配置防火墙规则：对公网接口实施双向端口过滤，阻断11434端口的出入站流量。
实施多层认证与访问控制：启用API密钥管理，定期更换密钥并限制调用频率。部署IP白名单，仅允许可信IP访问。
安全加固：关注Ollama官方发布的漏洞修复和安全更新，及时进行安全加固。
三、解决方案
安全多方计算：基于安全多方计算的方案是现有隐私计算方案中最有可能在大模型领域应用落地的技术。它可以在不泄露敏感数据的情况下，实现多方安全计算。
隐私计算平台：选择具备完善企业级安全措施的AI运营平台，如Sophon LLMOps，为企业级大模型应用提供全方位的安全防护。
法律法规：加强法律法规建设，明确大模型工具的使用规范和责任追究。
总之，大模型工具在合理使用的前提下，可以为各个领域带来巨大的价值。面对安全风险，我们应该加强安全意识，采取有效措施，确保大模型工具的安全使用。同时，政府、企业和研究机构应共同努力，推动大模型工具的安全发展。