Facebook, ABD’deki testlerde intihara meyilli kullanıcıları başarılı biçimde belirleyen patern tanıma yazılımını diğer ülkelere de yayılacağını duyurdu.

Şirket, yazılımı test etmek için ABD’de Mart ayında duyuru ve yorumları tarayarak intihar eğilimi sinyali olabilecek ifadeler aramaya başlamıştı. Facebook programın teknik detayıları konusunda fazla bilgi vermedi ancak yazılımın, ip ucu olabilecek “İyi misin?” ve “Yardım edebilir miyim?” gibi belli soruları aradığını söyledi.

Yazılım, potansiyel bir intihar algılarsa bu tür raporlar konusunda uzman olan bir Facebook ekibini uyarıyor. Sistem, kullanıcıya veya kişinin arkadaşlarına telefon yardım hattı gibi kaynaklar öneriyor. Bazen Facebook çalışanları, yerel yetkilileri arayarak onların devreye girmelerini sağlıyor.

Facebook’un ürün yönetimi başkan yardımcısı Guy Rosen, şirketin, testler başarılı olduğu için yazılımı ABD dışındaki ülkelere yayacaklarını söyledi. Rosen geçtiğimiz ay içinde, Facebook intihar eğilimi algıladıktan sonra ilk müdahele ekiplerinin, kişileri 100 defadan fazla kontrol ettiğini söyledi.

Facebook’un yaptığı açıklamaya göre konuda uzman çalışanlar günün her saati, yerel dillerde yetkililerle temasa geçmek için hazır bekliyor. “Hız gerçekten önemli. İnsanlara gerçek zamanda yardım etmemiz gerekiyor” diyor Rosen.

Facebook geçtiğimiz yıl canlı video yayınlarına başladığı zaman, intihar ve cinayet gibi şiddet içeren videolar çoğalmıştı. Bu da şirketin imajını tehdit etmeye başlamıştı. Mayıs ayında Facebook, video ve diğer içeriği denetlemek için 3000 kişi daha alacağını duyurmuştu.

Facebook’un hangi ülkelerde yazılımı devreye alacağını henüz belli değil ancak Rosen, hassasiyet nedeniyle Avrupa Birliği ülkeleri hariç bütün dünyada kullanılacağını ifade etti.

Diğer teknoloji üreten firmalar da intiharlara engel olmaya çalışıyor. Google arama motoru, belli aramalarda intihar yardım hattı numarası gösteriyor.

Facebook 2,1 milyar kullanıcısı hakkında çok fazla bilgiye sahip ve bu verileri hedeflenmiş reklamcılık için kullanıyor ancak eskiden, konuşmaları zararlı davranışlar açısından sistematik olarak taramıyordu. Bunun istisnası, çocuklar ve cinsel taciz uygulayanlar arasındaki şüpheli konuşmaları belirleme çabalarıydı. Otomatik sistemler uygun olmayan dil kullanımı algılayınca, Facebook yetkililerle temasa geçebiliyor.

Washington Üniversitesi’nde hukuk profesörü olan ve teknoloji konusunda yazan Ryan Calo, "Teknoloji üreten firmaların, diğer durumlarda konuşmaları taramayı haklı göstermeleri daha zor olabilir” diyor.

Calo, “Bir kez o kapıyı açtığınız zaman, başka ne tür şeyler arayabileceğimize şaşırırsınız” de de ekliyor.

Rosen, Facebook’un patern tanıma yazılımını seks suçları gibi diğer alanlarda da kullanmayı düşünüp düşünmediği konusunda ise yorum yapmayı reddetti.