Microsoft, yapay zeka içerik güvenliği hizmetini başlatıyor - Dünyadan Güncel Teknoloji Haberleri

Microsoft, yapay zeka içerik güvenliği hizmetini başlatıyor - Dünyadan Güncel Teknoloji Haberleri
” lansmanı duyuruyor

Azure Anomali Dedektörü ürün müdürü Louise Han, bir blog yazısında şunları yazdı: “İçerik güvenliğine odaklanarak, yapay zekanın sorumlu kullanımını teşvik eden ve bireylerin ve bir bütün olarak toplumun refahını koruyan daha güvenli bir dijital ortam yaratabiliriz

Azure AI İçerik Güvenliği ayrıca nefret, şiddet, kendine zarar verme ve cinsellik de dahil olmak üzere bir dizi kritik etki alanındaki zararlı içeriği tanımlamak ve kategorilere ayırmak için çok kategorili filtrelemeyi kullanır



genel-13

0-1 arasında derecelendirilen içerik tüm izleyiciler için güvenli ve uygun kabul edilirken önyargılı, yargılayıcı veya sabit görüşler ifade eden içerik 2-3 veya düşük olarak derecelendirilir “Yapay zeka tarafından üretilen çıktılarda doğruluğun, güvenilirliğin ve zararlı veya uygunsuz malzemelerin bulunmamasının sağlanması esastır Ayrıca görsel içeriği taramak, analiz etmek ve denetlemek için yapay zeka algoritmalarını kullanan görüntü özellikleri sunarak Microsoft’un 360 derece kapsamlı güvenlik önlemleri olarak adlandırdığı şeyi sağlar

“[When it comes to online safety] Özellikle yapay zeka tarafından oluşturulan içerik yaygınlaştıkça, insan tarafından oluşturulan içerikten daha fazlasını dikkate almak çok önemli,” diye yazdı Han

Orta önem derecesine sahip içerik 4-5 arasında derecelendirilir ve saldırgan, aşağılayıcı, alaycı, korkutucu bir dil veya kimlik gruplarına yönelik açık saldırılar içerir; yüksek önem dereceli içerik ise zararlı eylemlerin zararlı ve açık bir şekilde tanıtımını içeren veya zararlı eylemlerin aşırı biçimlerini onaylayan veya yüceltendir

Hizmet, metin ve resim algılamayı içerir ve küfür, yetişkinlere yönelik içerik, kan, şiddet ve belirli konuşma türleri dahil olmak üzere Microsoft’un “saldırgan, riskli veya istenmeyen” olarak nitelendirdiği içeriği tanımlar


Microsoft, kullanıcıların uygulamalar ve hizmetler genelinde zararlı yapay zeka ve kullanıcı tarafından oluşturulan içeriği tespit etmesine ve filtrelemesine yardımcı olan yeni bir hizmet olan Azure AI İçerik Güvenliğinin genel kullanıma sunulduğunu duyurdu

Telif Hakkı © 2023 IDG Communications, Inc ”

Azure AI İçerik Güvenliği, kullandıkça öde esasına göre fiyatlandırılır Azure AI İçerik Güvenliği fiyatlandırma sayfası İlgilenen kullanıcılar fiyat seçeneklerini kontrol edebilirler kimlik gruplarına yönelik etkinlik 6-7 arasında derecelendirilir

Azure AI İçerik Güvenliği Hem metin hem de görsel içeriği denetlemek için çeşitli içerik kategorilerini, dilleri ve tehditleri yönetme becerisine sahiptir

Hizmet aynı zamanda birden çok dildeki içeriği denetlemek için de donatılmıştır ve belirli içeriğin önem derecesini 0 ile 7 arasında değişen bir ölçekte gösteren bir önem derecesi ölçüsü kullanır İçerik güvenliği, kullanıcıları yalnızca yanlış bilgilerden ve olası zararlardan korumakla kalmıyor, aynı zamanda etik standartları destekliyor ve yapay zeka teknolojilerine güven oluşturuyor