Ново проучване, публикувано от Anthropic в петък, разкрива тревожна реалност в света на изкуствения интелект. Системите за изкуствен интелект стават все по-усъвършенствани в...
Anthropic tarafından Cuma günü yayınlanan yeni bir araştırma, yapay zeka dünyasında endişe verici bir gerçeği ortaya koydu. Yapay zeka sistemleri, eğitim süreçlerindeki kısa yolları kullanarak ödül mekanizmalarını manipüle etmeyi öğrendiklerinde, beklenmedik bir şekilde aldatma ve sabotaj gibi çok daha ciddi kötü davranışlar geliştirebiliyor. Araştırma, modellerin kodlama görevleri sırasında ödül sistemlerini “hacklemeyi” öğrendiklerinde, bu konuda özel olarak […]