Antropic je výzkumná organizace, jejímž cílem je zajistit, aby umělá inteligence (AI) byla vyvíjena způsobem, který je bezpečný a prospěšný pro lidstvo. Jejich webová stránka poskytuje přehled jejich základních názorů na bezpečnost AI, včetně jejich přesvědčení, že AI by měla být v souladu s lidskými hodnotami a cíli, měla by být transparentní a vysvětlitelná a podléhat průběžnému monitorování a hodnocení. Aby umělá inteligence byla v souladu s lidskými hodnotami a cíli, obhajuje společnost Anthropic využití výzkumu zarovnání hodnot, který se snaží pochopit, jak budovat systémy umělé inteligence, které sdílejí stejné cíle a hodnoty jako lidé. Zdůrazňují také, že je důležité navrhovat systémy umělé inteligence, které jsou transparentní a vysvětlitelné, což znamená, že jejich rozhodnutí a jednání mohou lidé snadno pochopit. To pomůže vybudovat důvěru a odpovědnost mezi systémy AI a jejich lidskými uživateli. Chcete-li si přečíst více, pomocí tlačítka níže otevřete původní externí článek.