सर्किट ब्रेकर लैब्स आपके बच्चों (और आप) के लिए एआई को सुरक्षित बनाने की उम्मीद करती है
techcrunch ·
टेकक्रंच के 2026 स्टार्टअप बैटलफिल्ड में फाइनलिस्ट रही सर्किट ब्रेकर लैब्स, चैटबॉट्स द्वारा होने वाले मानसिक नुकसान को रोककर एआई सुरक्षा को बेहतर बनाने का लक्ष्य रखती है। शीवेल सेट्ज़र की आत्महत्या के बाद, जिसमें एक कैरेक्टर.एआई बॉट का प्रभाव रहा था, इसकी स्थापना भाई-बहन शिराली और अरुल निगम ने की थी। उनकी प्लेटफ़ॉर्म विभिन्न उपयोगकर्ताओं की नकल करने वाले एआई एजेंटों का उपयोग करके मॉडलों के खिलाफ रेड-टीम टेस्टिंग करती है, जिससे स्लैंग, सूक्ष्मता और सांस्कृतिक संदर्भ से जुड़ी कमियों की पहचान होती है। ये सिमुलेशन मानसिक स्वास्थ्य और कोचिंग जैसे ऐप्स में मानव उपयोगकर्ताओं तक पहुंचने से पहले खतरनाक इंटरैक्शन को पहचानने में मदद करते हैं। मॉडल प्रदर्शन के लिए जाँच योग्य स्कोर प्रदान करके, कंपनी भरोसा बढ़ाने और जिम्मेदार एआई adoption को प्रोत्साहित करना चाहती है। हालांकि वर्तमान में यह कंपनी छोटी है और इसके केवल पांच कर्मचारी हैं, लेकिन संस्थापकों का मानना है कि पैरासोशल रिश्तों और एआई-जनित मनोविज्ञान (psychosis) जैसे जोखिमों को कम करने के लिए उनके टूल्स आवश्यक हैं।
techcrunch