Співробітники Google DeepMind попереджають про ризик штучного інтелекту
Група співробітників компаній штучного інтелекту, зокрема Microsoft, відкриває нову вкладку OpenAI та Alphabet. Google DeepMind висловив стурбованість ризиками нової технології. Про це повідомляє Reuters.
У відкритому листі групи з 11 співробітників OpenAI та двох співробітників Google DeepMind зазначається, що фінансові мотиви компаній перешкоджають ефективному спостереженню за роботою штучного інтелекту.
“Ми не вважаємо, що створених на замовлення структур корпоративного управління достатньо, щоб змінити це”, – додається в листі.
Також у листі попереджається про ризики нерегульованого штучного інтелекту, таких як поширення дезінформації та втрата незалежних систем, що може призвести до нерівності та вимирання людства.
Дослідники виявили приклади генераторів зображень, зокрема OpenAI та Microsoft, які створюють фотографії з дезінформацією.
У листі йдеться про «слабкі зобов'язання» компаній зі штучним інтелектом ділитися інформацією з урядами про можливості та обмеження своїх систем.
Група закликала компанії займатися штучним інтелектом сприяти розголосу своїх співробітників.
Компанія OpenAI повідомила, що вони зірвали п'ять таємних операцій, спрямованих на використання їх моделей штучного інтелекту для оманливої діяльності в Інтернеті.
