Trustwise获400万美元融资,专注生成式AI安全

AI最新资讯3周前发布 tree
14 0 0

今日应用


今日话题


Trustwise获400万美元融资,专注生成式AI安全
Trustwise获400万美元融资,专注生成式AI安全
 

重点标签 AIGC社区Trustwise生成式AIOptimize:aiAI安全

文章摘要


Trustwise公司专注于AIGC领域,致力于大语言模型(LLM)的发展和应用落地,同时关注AI安全和开发者生态。该公司宣布成功获得400万美元的种子轮融资,由日立风投、Firestreak Ventures和Grit Ventures等机构参与。此外,Trustwise推出了Optimize:ai,这是首款专注于生成式AI安全的产品,旨在为开发者提供API,帮助他们消除风险,降低在高风险企业环境中部署大型模型的成本,并减少幻觉问题。

生成式AI,如ChatGPT,常常产生不准确的结果,可能违反政策和法规,导致成本高昂和能源效率低下,给公司带来法律风险。GitHub的“幻觉排行榜”显示,GPT-4、Llama、Gemini和Claude等流行大型模型在总结文本时的幻觉发生率在3%到8.5%之间。企业对AI技术的潜力抱有高期望,但对成本问题保持谨慎。Lucidworks的研究表明,AI成本问题在过去一年中激增了14倍。

Trustwise通过API、数据集以及AI安全和对齐控制,对生成式AI工作负载进行严格的红队测试和优化,保护企业免受潜在的AI失败和过高成本的影响。Optimize:ai符合主要的AI标准和法规,包括欧盟AI法案、NIST AI RMF 1.0、负责AI研究所RAISE安全和对齐基准以及SCI ISO软件碳强度标准。

Trustwise的CEO兼创始人Manoj Saxena表示,他们理解企业在使用生成式AI时面临的挑战,包括安全风险、高成本和环境影响。与传统的谷歌搜索相比,一次ChatGPT查询的成本大约是前者的36倍,使用的算力是前者的1000倍,同时还存在幻觉和数据泄漏等安全问题。Optimize:ai的推出可以帮助企业以安全、节省成本的方式来使用生成式AI和大型模型。

日立风投的合伙人Gayathri Radhakrishnan表示,企业领导者在生成式AI战略中面临双重挑战:虽然生成式AI能带来下一代创新生产力,但同时也带来了显著的安全风险、成本负担和环境影响。Trustwise的经验丰富且世界级的团队将提供急需的生成式AI优化能力,使开发者能够创建安全、高效且高性能的AI。

文章来源


原文地址: 点我阅读全文
原文作者: AIGC开放社区

© 版权声明

相关文章

暂无评论

暂无评论...