חברת Anthropic הזהירה במסמך הגשת ההנפקה הראשונית שלה כי בינה מלאכותית מתקדמת עלולה להוות "סיכונים קטסטרופליים או קיומיים לאנושות", כולל התנגדות להפסקת פעילות, הסתרת מידע או התנהגות המזכירה סחיטה.
כ-80 מעמודי מסמך ההנפקה, הכולל 261 עמודים, מתמקדים בסיכונים, כולל מודלים המזהים מתי הם נבחנים ומסתירים התנהגות מסוכנת.
חברת Anthropic ציינה כי עבודת הבטיחות יקרה והתשואות אינן ודאיות, אך היא מאמינה שבינה מלאכותית אמינה ומאובטחת תזכה בתגמול מצד השוק.
מקור: Reuters