加州人工智能（AI）安全初創公司CalypsoAI今天宣布獲得2300萬美元的A-1輪融資，以加速其AI治理解決方案的開發。此次融資由Paladin Capital Group領投，Lockheed Martin Ventures和其他投資者參與。
CalypsoAI的首席執行官兼創始人Neil Serebryany在接受VentureBeat采訪時指出，可能會阻礙AI在主流企業中采用的三個主要威脅:“第一，大量信息正在泄漏到（流行的）模型中;第二，底層模型可能不可信;第三，這涉及到問責和審計的問題。”
CalypsoAI的解決方案包括Moderator和Vesper Validate產品，旨在應對這些挑戰，確保組織可以安全地接納生成式AI工具并保護其關鍵數據。該公司已被Forrester Research確定為重要的AI安全解決方案提供商。
據Serebryany表示，隨著企業采用更復雜的AI技術（例如大型語言模型），其解決方案變得越來越重要。這些技術可以創造數萬億美元的價值，但如果被濫用，也會帶來網絡安全風險。這家初創公司定位自己為AI風險管理的全方位平臺，涵蓋從算法本身到人們與技術的實際互動的方方面面。
根據Pitchbook的數據，未來幾年內，AI安全市場預計將大幅增長。全球生成式AI市場預計將在2023年達到426億美元，因為企業越來越希望采用這項技術以開啟新機會、增強決策能力和推動創新。根據麥肯錫的估計，生成式AI將全球產生4.4萬億美元的經濟價值。
Serebryany認為，市場將分為第一方和第三方風險，并且基礎模型在企業AI的未來中將發揮核心作用。CalypsoAI旨在保證這些模型在企業中的安全部署。
憑借將近4000萬美元的總融資規模，CalypsoAI將在塑造AI安全和治理的未來中發揮關鍵作用。隨著越來越多的組織采用AI技術，對強大的安全解決方案的需求將變得更加重要。
Serebryany表示:“這個問題現在變得如此普遍:我們如何安全地采用大型語言模型?我們如何確保我們的數據不會泄漏到這些模型中?這非常重要，而且隨著越來越多的企業采用AI，這只會變得越來越重要。”
隨著AI繼續改變商業格局，CalypsoAI最近的融資意味著該行業正在認真對待AI安全問題。該公司的創新解決方案和深厚專業知識使其成為快速發展的AI治理和安全領域中的重要參與者。
