随着AI 以超乎想象的速度演化，必将引起对AI 利剑的另一“刃”——信任——的担忧。首先是隐私方面：AI 时代，人类从数据隐私的角度如何信任AI？也许AI 模型的透明度是更为担忧的关键：类似大规模语言模型的涌现能力，对人类来说无异于一个无法看透的科技“黑匣子”，一般用户并不能理解模型是如何运行的、运行结果又是如何获得的——更麻烦的是，作为用户可能并不知道服务商提供的AI 模型是否如承诺的那样运行。尤其是在一些敏感数据上应用AI 算法和模型，如医疗、金融、互联网应用等，AI 模型是否具有偏见（甚至恶意导向）、或者服务商是否按照承诺那样准确无误地运行模型（以及相关参数），成为用户最为关心的问题。零知识证明技术在这方面有着针对性的解决方案，于是零知识机器学习（ZKML）成为最新崛起的发展方向。
综合考虑到计算的完整性、启发性优化以及隐私，零知识证明和AI 的结合下，零知识机器学习（Zero-Knowledge Machine Learning，ZKML）应运而生。在AI 生成内容越来越逼近与人类产生的内容的时代，零知识密证明的技术特点可以帮助我们确定特定内容是通过特定模型产生的。对于隐私保护，零知识证明技术特别重要，即可以在不泄露用户数据输入或模型具体细节的情况下完成证明和验证。
零知识证明应用于机器学习的五种方式：计算完整性、模型完整性、验证、分布式训练和身份验证。最近大型语言模型（LLM）的快速发展表明这些模型变得越来越智能，这些模型完善了算法与人类的重要接口：语言。通用人工智能（AGI）的趋势已经不可阻挡，但就现在的模型训练结果来看，AI 可以在数字交互中完美模仿高能力的人类——且在快速的演进中以不可想象的速度达到超越人类的水平，使得人类不得不惊叹这种进化速度、甚至产生被AI 迅速替代的忧虑。
社区开发者利用ZKML 对Twitter 推荐功能进行验证，具有一定启发性。
Twitter 的“For You”推荐功能利用一种AI 推荐算法，将每天发布的大约5亿条推文提炼成少数几条热门推文，最终显示在用户主页的时间轴上。2023年3 月底，Twitter 开源该算法，但因模型细节未公开，用户依然无法验证算法是否准确、完整运行。社区开发者Daniel Kang 等利用密码学工具ZK-SNARKs 来检查Twitter 推荐算法是否正确、完整运行而无需公开算法细节——这正是零知识证明最吸引人之处，即不透露关于对象的任何具体信息（零知识）的前提下证明该信息的可信性。最理想的情况是，Twitter 可以使用ZK-SNARKS 来发布其排名模型的证明——证明当该模型应用于特定用户和推文时，它会产生特定的最终输出排名。该证明则是该模型可信的基础：
用户可以自行验证模式算法的计算是否按承诺执行——或者交给第三方来进行审计。这一切都是在不公开模型参数权重细节的基础上进行。也就是说，利用官方公布的模型证明，用户对具体的有疑问的推文，利用该证明来验证特定推文是否按照模型承诺那样诚实运行。
投资建议：AI 迅速演化的背景下，我们聚焦：1）算力：中际旭创、新易盛、天孚通信、太辰光、腾景科技、中兴通讯、紫光股份、锐捷网络；2）三大运营商，中国电信、中国移动、中国联通；3）内容审查与IP 保护：人民网、新华网、博汇科技。
风险提示：ZKML 商业模式落地不及预期；监管政策的不确定性。
查看资料
收藏
顶 
踩 
