एआई इंसान की तरह नहीं सोचता. इससे इस तरह बात करना बंद करें जैसे कि यह करता है – कंप्यूटरवर्ल्ड

एडब्ल्यूएस स्थिति में, एडब्ल्यूएस ने कहा कि इंजीनियर की पहली गलती अपने स्वयं के सिस्टम विशेषाधिकारों को नहीं समझना था और इसलिए उन्होंने एजेंट को क्या क्षमताएं और पहुंच दी थी। यह एक अच्छी प्रक्रिया का सुझाव देता है: न्यूनतम पहुंच के साथ खाते बनाएं और फिर लॉग इन करें वह एजेंट बनाते समय निम्न-स्तरीय खाता।

यह इस बात की गारंटी नहीं देगा कि एजेंट उसके निर्देशों का पालन करेगा, लेकिन कम से कम यह सीमित करेगा कि यदि/जब वह दुष्ट हो जाता है तो कितना नुकसान कर सकता है।

मैंने क्लाउड से पूछा – एलएलएम से बेहतर कौन जानता है कि बड़े भाषा मॉडल (एलएलएम) के साथ कैसे बात की जाए? – एजेंटों के साथ बातचीत पर युक्तियों के लिए। “प्रतिबंध लगाने के बजाय, उन्हें सीधे बताएं। ‘इसे उचित रखें’ के बजाय, कहें, “किसी भी हिंसा, अपवित्रता या वयस्क सामग्री को शामिल न करें।’ सीमा जितनी सटीक होगी, उसका लगातार पालन करना उतना ही आसान होगा।”