Развитието на изкуствения интелект може да поеме по два опасни пътя: човечеството може да загуби контрол над изкуствения интелект (ИИ) или да се изправи пред прекомерна концентрация на власт в ръцете на отделни лица, компании или правителства, според Сам Алтман, главен изпълнителен директор на OpenAI, голяма американска технологична компания.
„Има два сценария, при които напредъкът на ИИ може да се обърка много и които трябва да избегнем. Първо, бихме могли да загубим контрол над бъдещето в полза на ИИ. Това е неприемливо. Ние сме недвусмислено на страната на човечеството и ИИ винаги трябва да служи на хората“, пише Алтман в X.
Според него, за да се предотврати подобен сценарий, методите за осигуряване на безопасност и съгласуване на ИИ с човешките интереси трябва да се развиват по-бързо от възможностите на самите модели. Втората заплаха, идентифицира Алтман, е прекомерната концентрация на власт, при която изключително мощният ИИ може да бъде използван от един човек или една компания, за да наложи своя мироглед на всички останали.
„Резултатите биха могли да бъдат изключително дистопични“, отбеляза Алтман. Той добави, че опасност може да възникне и ако една държава или една компания за ИИ придобие прекомерно влияние.
На 12 септември Дарио Амодей, главен изпълнителен директор на американската компания Anthropic, публикува статия, призоваваща за забавяне на разработването на усъвършенствани модели с изкуствен интелект. Той отбеляза, че чрез координиране на забавянето в разработването на напреднали технологии, компаниите с изкуствен интелект биха могли да „купят една до две години допълнително време, преди моделите да достигнат критични нива“ на развитие и да избегнат сериозни грешки в изчисленията. Илон Мъск се съгласи с това твърдение, както и Сам Алтман, главен изпълнителен директор на голямата американска технологична компания OpenAI.
