Anthropic е изследователска организация, която има за цел да гарантира, че изкуственият интелект (AI) е разработен по начин, който е безопасен и полезен за човечеството. Техният уебсайт предоставя общ преглед на техните основни възгледи за безопасността на ИИ, което включва тяхното убеждение, че ИИ трябва да бъде приведен в съответствие с човешките ценности и цели, проектиран да бъде прозрачен и обясним и да подлежи на текущ мониторинг и оценка. За да може AI да бъде приведен в съответствие с човешките ценности и цели, Anthropic се застъпва за използването на изследвания за приравняване на стойността, които се стремят да разберат как да изградят AI системи, които споделят същите цели и ценности като хората. Те също така подчертават важността на проектирането на AI системи, които са прозрачни и обясними, което означава, че техните решения и действия могат лесно да бъдат разбрани от хората. Това ще помогне за изграждането на доверие и отчетност между системите с изкуствен интелект и техните потребители. За да прочетете повече, използвайте бутона по-долу, за да отворите оригиналната външна статия.