Zararları değerlendirmeyle ilgili temel bilgiler

Zarar Modellemesi olası zararları tahmin etmenize, üründe kullanıcıları riske atabilecek boşlukları tespit etmenize ve böylece zararlı durumlara karşı proaktif yaklaşımlar oluşturmanıza yardımcı olmak için tasarlanmıştır.

Zarar modellemesi neden kullanılmalıdır?

Teknolojiyi oluşturan kişiler olarak global çalışmalar yapıyorsunuz. Yapay zekanın güvenilir olacak biçimde tasarlanması için, önemli ve zamandan bağımsız değerlere dayanan etik ilkeleri yansıtan çözümler oluşturulması gerekir. Teknolojilerinizi tasarlama ve oluşturma sürecinde, yalnızca ideal sonuçları değil, olası olumsuz sonuçları da değerlendirmek önemlidir.

Teknoloji ve insan hakları

Dijital teknolojinin insan haklarını nasıl etkileyebileceğinden haberdar olmak her zamanki kadar önemlidir. Gizliliği ve güvenliği korumayı sürdürmek için, yapay zekanın ve yüz tanıma gibi yeni ortaya çıkan diğer teknolojilerin risklerini göz önünde bulundurmak zorundayız. Tarih bize insan hakları ihlallerinin yalnızca teknolojinin kötü kullanımından değil, aynı zamanda iyi niyetli kişiler arasında farkındalık eksikliğinden kaynaklandığını öğretir. Microsoft, şirketimizin insan haklarını koruma konusuna gösterdiği hassasiyet dolayısıyla, Birleşmiş Milletler (BM) de dahil olmak üzere sektörümüzün dışındaki önemli taraflarla bir iş ortaklığı kurdu.

Şirketimizin güçlü bir şekilde desteklediği BM ilkelerinden biri, 250’den fazla ulusun da onayladığı İnsan Hakları Evrensel Beyannamesi’dir (UDHR). UDHR, kilometre taşı niteliğinde bir belgedir. Tüm dünyadan hukuk ve kültür uzmanlarından oluşan karışık bir grup tarafından hazırlanan bu beyanname, 1948’de Birleşmiş Milletler Genel Kurulu tarafından tüm insanların ve tüm ulusların ulaşması gereken ortak bir standart olarak yayınlanmıştır. Temel insan haklarının evrensel olarak korunması, ilk kez bu belgeyle belirtilmiştir. 500’den fazla dile çevrilmiştir. Ayrıca Microsoft, kurumsal sosyal sorumluluğu geliştirmeyi amaçlayan uluslararası bir iş girişimi olan Küresel İlkeler Sözleşmesi’ni imzalayan 4.700 kurumsal şirketten biridir.

Bu tablonun Microsoft Word dosyasını indirin

İnsan anlayışı

İnsan haklarının anlaşılmasının yanı sıra, güvenilir sistemler oluşturmak için birçok kişinin bakış açısının da dikkate alınması gerekir. Katılımcıların kim olduklarını, neye değer verdiklerini, teknolojimizden nasıl faydalanacaklarını ve nasıl zarar görebileceklerini bilmek, daha iyi ürünler tasarlayıp oluşturmamızı sağlayan güçlü bir adımdır.

Teknoloji kimi etkiliyor?

Müşteriler kimler?

• Müşteriler neye değer veriyor?
• Nasıl bir fayda sağlanacak?
• Teknoloji nasıl bir zarar verebilir?

Müşteri olmayan katılımcılar kimler?

• Müşteriler neye değer veriyor?
• Nasıl bir fayda sağlanacak?
• Teknoloji nasıl bir zarar verebilir?

Bu soruların sorulması, Değere Duyarlı Tasarım uygulamalarından biridir. Katılımcıların neye önem verdiğini ve bunun ürünle olan ilişkilerinde nasıl bir rol oynayacağını daha iyi anlamak için öncelikle bunlar gereklidir.

Katılımcı türleri

Proje sponsorları

Bu kategoride destekçiler, karar alma yetkisi olanlar ve sahipler yer alır. Bu tarafların değerleri, proje stratejisiyle ve hedeflerle ifade edilir.

Teknolojiyi oluşturanlar

Tasarımcılar, geliştiriciler, proje yöneticileri ve doğrudan sistem tasarlama üzerinde çalışan kişiler bu grubu oluşturur. Kendi etik standartlarını ve mesleki değerlerini sisteme yansıtırlar.

Doğrudan ve dolaylı katılımcılar

Sistem, bu katılımcıları önemli ölçüde etkiler. Etkilenenler arasında son kullanıcılar, yazılım personeli, müşteriler, destekçiler, kurumlar arasında geçiş yapanlar ve hatta geçmiş veya gelecek nesiller yer alır. Tarihi binalar veya kutsal yerler gibi insan dışı faktörler de buna dahil edilebilir.

Ötekileştirilmiş topluluklar

Bu kategoride sıkça azınlık, savunmasız veya damgalanmış olarak değerlendirilen topluluklar yer alır. Bu kategoride çocuklar, yaşlı yetişkinler, LGBTQ+ topluluğu üyeleri, etnik azınlıklar ve genellikle benzersiz ve orantısız sonuçlarla karşılaşan diğer halklar yer alır.

Zararı değerlendirme

Teknoloji amacını, kullanım örneklerini ve paydaşları tanımladıktan sonra, oluşturduğunuz bir teknolojinin kullanımının insanlar ve toplum için olumsuz sonuçlara yol açabileceği olası yöntemleri değerlendirmek için bir Zarar Modelleme alıştırması gerçekleştirin.

Bu diyagramın Microsoft Word dosyasını indirin.

Yukarıdaki diyagram bir zarar değerlendirmesi örneğidir. Bu model, olası zarar büyüklüğünü anlamak için kullanılan nitel bir yaklaşımdır.

Bu fikir yürütme etkinliğini tek tek tamamlayabilirsiniz, ancak ideal olarak geliştiriciler, veri bilimcileri, tasarımcılar, kullanıcı araştırmacısı, iş karar alıcıları ve teknolojiyi oluşturmaya katılan diğer disiplinler arasındaki işbirliği olarak yürütülür.

Zarar açıklaması bildirimleri için öneriler:

• Amaçlanan kullanım: [özellik] [kullanım örneği] için kullanıldıysa [paydaş] [zarar açıklaması] ile karşılaşabilir.
• İstenmeyen kullanım: [kullanıcı] [kullanım örneği] için [özellik] kullanmayı denediyse [paydaş] [zarar açıklaması] ile karşılaşabilir.
• Sistem hatası: [özellik] [kullanım örneği] için kullanıldığında düzgün çalışamadıysa [paydaş] [zarar açıklaması] ile karşılaşabilir.
• Kötüye kullanma: [Kötü amaçlı kişi], [özellik] yoluyla [katılımcıyı] [zarar açıklaması] ile karşı karşıya bırakabilir.

Zarara neden olabilecek durumlara ilişkin fikir üretmek için bu kategorilerden, sorulardan ve Zarar türleri bölümünde açıklanan örneklerden faydalanın. Makalede, yaygın olumsuz etki alanlarını temel alan zarar kategorileri listeleniyor. Kendi çalışmanızla ilgili olan kategorileri kullanın.

Sonraki adımlar

Zararlara ilişkin daha ayrıntılı bir analiz için Zarar türleri bölümünü okuyun.