"Ми викликаємо демона": шеф Google страшенно боїться штучного інтелекту компанії. Ілон Маск мав рацію?

Сундар Пічаї визнав, що він навіть не повністю розуміє власний ШІ Google після того, як той навчився розмовляти іноземною мовою без навчання. Однак не це є найжахливішим, оскільки інші порівнюють цю небезпеку з «ядерною зброєю».

Відповідну публікацію розмістили на порталі "dailystar", посилаючись на побоювання боса компанії Google.

Штучний інтелект зараз порівнюють із появою роботів-вбивць, які йдуть на війну з людством у фільмі 1984 року «Термінатор».

І це сталося після того, як технічні боси, зокрема власник Twitter Ілон Маск, закликали зупинити поширення ШІ для захисту людства.

50-річний Пічаї сказав: «Неправильне розгортання може бути дуже шкідливим, і ми ще не маємо відповідей на всі питання, а технології розвиваються швидко. У нас є деякі ідеї, і наша здатність розуміти їх з часом стає кращою. Але це те, де знаходиться мистецтво».

Він визнав, що злами в програмі чат-ботів Google Bard, наприклад, як вона може навчати себе навичкам, які її програмісти не передбачали, — все ще розробляються.

Професор Стюарт Рассел із Каліфорнійського університету в Берклі сказав: «У довгостроковій перспективі вживання розумних запобіжних заходів — це невелика ціна за зниження цих ризиків».

Це сталося після того, як Аррам Сабеті, інвестор у галузі штучного інтелекту з Сан-Франциско та генеральний директор компанії, сказав, що він боїться цієї технології, тому що вона «небезпечніша для людства, ніж ядерна зброя».

«Я боюсь AGI. Це збиває з пантелику, як люди можуть так нехтувати ризиками. Я інвестор двох компаній AGI і дружу з десятками дослідників, які працюють у DeepMind, OpenAI, Anthropic та Google Brain. Майже всі вони стурбовані», - написав він у Twitter.

Він порівняв цю загрозу з загрозою ядерної енергетики та процитував попередження Ілона Маска від 2018 року, в якому говорилося: «За допомогою штучного інтелекту ми викликаємо демона. Запам'ятайте мої слова — ШІ набагато небезпечніша за ядерну зброю».