FACEBOOK’ un TERÖRİZMLE MÜCADELE ATILIM ve HAMLELERİ
by Cigdem Yorgancıoğlu 22 Haziran 03:15 PM
http://www.cigdemyorgancioglu.org
Terörizmin ciddi bir propaganda aracı olarak kullanıldığı sosyal ağlar, bu konunun önüne geçebilmek için çalışmalar yürütmekte. Çevrimiçi aşırılıklarla mücadele için yeterince adım atılmadığı yönündeki eleştirilere karşı Facebook'un "terörist içeriği" kendi platformundan yok etme çabalarını hızlandıracaklarını ve buna dair izleyecekleri yolu açıkladı. Facebook Küresel Politika Yönetimi Direktörü Monika Bickert ve Facebook Terörle Mücadele Politikalara Müdürü Brian Fishman sosyal ağın terörle mücadelesini paylaştı.[i]
Facebook topluluğunu güvende tutmanın misyonlarının en önemli kısmını oluşturduğunu vurgulayan ,Facebook’un “Terörizmle Nasıl Mücadele Ediyoruz?” başlıklı ve adeta bir manifestoyu çağrıştıran açıklamasında son dönemde yaşanan ve psikolojik şiddetini de giderek arttıran terör saldırılarının ardından insanların, terörizmle çevrimiçi mücadelede teknoloji şirketlerinin rolünü sorgulamaya başladığını farkında olduklarını bilincinciyle kendilerini de ilgili sorulara net açıklamalar yapmak konusunda sorumlu hissettiklerini , konuyu hem çeşitli yöntem ve araçlarla çözme çabaları hem de bu gayretleri paylaşmak ve nakletmek suretiyle ciddiye aldıkları hususundaki kararlılıklarını görmek mümkün .
Yazıda daha önce kamuoyuyla paylaşmadıkları bir konu olan terörle bağlantılı içerikleri Facebook’un dışında tutmak için yapay zekadan nasıl yararlandıkları gibi, iç bünyelerinde gerçekleştirdikleri bazı faaliyetlerden bahsedilmiş. Buna ilaveten , aralarında tüm kariyerlerini terörle mücadeleye adamış kişilerin de bulunduğu, hâlihazırda terörle mücadele konusunda çalışan insanlara ve Facebook bu konudaki iş ortaklarına da değinilmiş.
Yazıda kendi ilgi alanımdaki iletişim,ikna ve çatışma çözümü barış tesisi gibi konulara en yakın olan başlık ise “Karşı söylem eğitimleri (Counterspeech training)” oldu. Facebook’un insanları nefretle ve şiddetle dolu bir yaşamdan vazgeçirmeye ikna etmek gibi bir iyi niyet ve üçüncü partilerle işbirliği arayışında olması hasebiyle, kanımca esasen konunun en can alıcı noktalarında birisi sorunda (terör-terörist faaliyet ) kök nedene inip önlemeye yönelik girişim ve çabalardır.
Yazıda bu konudaki duruşlarının son derece net olduğu şu şekilde belirtiliyor: “Facebook’ta terörizme kesinlikle yer yok. Teröristlerden ve terörü destekleyen paylaşımlardan haberdar olduğumuz anda bunları kaldırıyoruz. Terör paylaşımı olabilecek içerikler ile ilgili şikâyetler aldığımızda, söz konusu içerikleri derhal ve büyük bir titizlikle inceliyoruz. Nadir de olsa yakın zamanda olması muhtemel felaketler ile ilgili delil keşfettiğimiz anda ise hiç vakit kaybetmeden yetkililere haber veriyoruz. Her ne kadar akademik araştırmalar DAEŞ ve El-Kaide gibi grup üyelerinin radikalleşme sürecinin öncelikli olarak çevrimdışı dünyada gerçekleştiğini ortaya koysa da, internetin bu konuda bir rol oynadığını biliyoruz ve Facebook’un herhangi bir terör ve benzeri faaliyet için kullanılmasını kesinlikle istemiyoruz”Teknolojinin ve Facebook’un, çözümün bir parçası olabileceğine inanıyoruz.Şimdiye kadar bu konuda ihtiyatlı konuştuk; çünkü basit bir teknik çözüm olduğu izlenimi uyandırmak istemeyiz. Her ay neredeyse 2 milyar kişinin kullandığı, insanların dünyanın her bir köşesinden 80’den fazla dilde paylaşım ve yorum yaptığı bir platformda insanları güvende tutmak çok zorlu bir görev. Ve yapmamız gereken daha çok şey var; ama biz neler üzerinde çalıştığımızı sizlerle paylaşmak ve neyi daha iyi yapabiliriz konusunda önerilerinizi dinlemek istiyoruz”
Peki Facebook bunu hangi yöntem ve araçlarla nasıl başaracak sorusunun cevabına gelince ilgili yazıya göre ;
Yapay Zeka (Artificial Intelligence – AI)
Terör içerikli paylaşımları daha topluluğumuz görmeden, hızlı bir biçimde saptamak istiyoruz. Bugun, terör nedeniyle sildiğimiz hesapların çoğunu biz tespit ediyoruz. Yine de terör barındıran içeriklerin Facebook’ta yayılmasını durdurmak için teknolojiyi, özellikle de yapay zekayı daha iyi kullanabileceğimizi biliyoruz. Her ne kadar teröre karşı yapay zeka kullanımımız henüz yeni olsa da, bu teknoloji şimdiden potansiyel terör propagandalarını ve hesapları Facebook’tan uzak tutma konusundaki yöntemlerimizi değiştirmeye başladı bile. Şu anda en yeni teknolojilerimiz DAEŞ, El-Kaide ve bunların üyeleri ile ilgili terör içerikleriyle mücadeleye odaklanmış durumda ve zaman içinde bunu diğer terör örgütlerini kapsayacak şekilde genişletmeyi ümit ediyoruz. Teknik çözümlerimizi sürekli olarak güncelliyoruz. En yeni ve güncel faaliyetlerimizden birkaçı ise aşağıdaki gibi:
· Görüntü eşleştirme: Biri terör içerikli bir fotoğraf veya videoyu yüklemeye çalıştığında, sistemlerimiz bu görüntünün daha önce bilinen bir terör fotoğrafı veya videosu ile eşleşip eşleşmediğini kontrol ediyor. Bu, örneğin eğer daha önce DAEŞ’ten bir propaganda videosunu kaldırdıysak, farklı hesapların aynı videoyu sitemize yüklemesini engelleyebileceğimiz anlamına geliyor. Bu da çoğu durumda Facebook’a yüklenmek üzere hazırlanan terör videolarının hiçbir zaman platforma erişememesi anlamına geliyor.
·
· Dil tanıma: Yakın zamanda yapay zeka kullanarak teröre özendiren metinleri anlamak için testler yapmaya başladık. Şu anda DAEŞ ve El-Kaide gibi terör gruplarını methettiği veya desteklediği için kaldırdığımız metinleri analiz etmek için testler yapıyoruz ve böylece terör propagandası yapma potansiyeli taşıyan içerikleri belirlemek için metne dayalı bazı göstergeler geliştirmeyi umuyoruz. Bu analizler, benzer paylaşımları saptamayı öğrenmenin henüz erken aşamasında olan bir algoritmayla incelenmekte. Bu otomatik öğrenme algoritmaları “The machine learning algorithms” bir geri bildirim döngüsünde çalışıyor ve zaman içinde daha iyi çalışır hale geliyor.
· Terör topluluklarını kaldırma: Teröristlerle ilgili yapılan çalışmalardan, bu kişilerin gruplar halinde radikalleşmeye ve aksiyon almaya meyilli olduklarını biliyoruz. Bu çevrimdışı eğilim, çevrimiçi ortam için de geçerli. Terörü destekleyen Sayfalar, gruplar, paylaşımlar ya da profiller belirlediğimizde – yine algoritmalar yardımıyla – bunları kullanarak terörü destekleyen benzer içerikleri saptamaya çalışıyoruz. “Bir hesap daha önce terörizm yüzünden kapatılmış mı” “çok sayıda hesapla arkadaş mı” ya da “kapatılan bir hesapla benzer özellikler taşıyor mu” gibi uyarı işaretleri kullanıyoruz.
· Tekerrür (Recidivism) : Mükerrer suçlular[ii] tarafından açılan yeni sahte hesapları saptama konusunda da oldukça hızlandık. Bu sayede terörden sabıkalı hesapların Facebook’ta bulunma sürelerini ciddi ölçüde azaltabiliyoruz. Ancak bu iş hiçbir zaman bitmiyor; çünkü ortada bir mücadele var ve teröristler de kendi yöntemlerini sürekli geliştiriyorlar. Sistemlerimizi alt etmeye çalışan terör aktörlerini saptamak için sürekli olarak yeni yollar geliştiriyor ve yöntemlerimizi de buna göre güncelliyoruz.
· Platformlar arası işbirliği: Teröristlerin Facebook uygulama ailesinin hiçbirinde bulunmasını istemediğimiz için, WhatsApp ve Instagram da dâhil olmak üzere tüm platformlarımızdaki terörist hesaplarla ilgili aksiyon almamızı sağlayacak sistemler üzerinde çalışmaya başladık. Verdiği hizmetin bir parçası olarak sınırlı veri toplayan bazı uygulamalarımız nedeniyle tüm uygulama ailemiz arasında veri paylaşımı yapabilme kabiliyeti, tüm platformlarımızı güvende tutma mücadelemizin ayrılmaz bir parçasını oluşturmakta.
İnsan Uzmanlığı
Yapay zeka, her şeyi yakalayamaz. Neyin terörü desteklediğini veya desteklemediğini anlamak her zaman kolay değil ve algoritmalar da bu tarz içerikleri anlamada henüz insanlar kadar gelişmiş değiller. DAEŞ bayrağı sallayan silahlı bir adam resmi propaganda veya üye kazanma amaçlı oluşturulan bir içerik de olabilir, bir haberde kullanılan görsel de. DAEŞ gibi gaddar grupların en etkili bazı karşıtları, onlara karşı onların kendi propaganda malzemelerini kullanıyorlar. Daha incelikli vakaları anlamak için insan uzmanlığına ihtiyacımız var.
· Şikayet, İhbar ve incelemeler: Topluluğumuz, yani Facebook’u oluşturan insanlar, küçük bir kısmı terörle ilgili olabilecek içerikler olmak üzere politikalarımızı ihlal eden hesapları veya içerikleri şikayet ederek bize yardımcı olmaktadırlar. Önümüzdeki yıl üç bin kişinin daha eklenerek büyüyeceği dünya çapında faaliyet gösteren Topluluk Operasyonları ekibimiz, bu şikayetleri incelemek ve durumu anlamak için 24 saat boyunca, düzinelerce farklı dilde çalışmaktalar. Bu oldukça zahmetli ve zorlu bir iş olabiliyor. Bu yüzden biz de bu kişileri danışmanlık hizmetleri ve dayanıklılık eğitimleri “resiliency training.” ile desteklemekteyiz.
· Terör ve güvenlik uzmanları: Geçen yıl terörle mücadele uzmanları ekibimizi ciddi ölçüde genişlettik. Facebook’ta 150’den fazla kişi sadece veyahut öncelikli olarak terörle mücadeleden sorumlu olarak çalışıyor. Bu ekip, terörle mücadele uzmanı akademisyenler, eski savcılar, eski emniyet teşkilatı yetkilileri ve analistleri ve mühendislerden oluşmakta.. Sadece bu uzmanlaşmış ekipte bile neredeyse 30 ayrı dil konuşuluyor.
· Gerçek dünya ile ilgili tehditler: Terör barındıran içerikleri belirlemek ve kaldırmak için gittikçe daha fazla yapay zeka (AI) teknolojileri kullanıyoruz; fakat bilgisayarlar emniyet birimlerine haber vermeyi gerektirecek muhtemel tehditleri belirlemek konusunda çok iyi değiller. Emniyet güçlerinden gelen talepleri dakikalar içerisinde cevaplayan bir küresel ekibimiz de bulunmakta.
Üçüncü Partilerle İşbirliği
Terörizmi sadece Facebook’tan uzak tutmak için çalışmak yeterli değil; çünkü teröristler bir platformdan öbürüne geçebiliyor. Bu yüzden diğer şirkeler, sivil toplum, araştırmacılar, devletler gibi kurumlarla işbirliği yapmak hayati önem taşıyor.
· Sektör işbirliği: Çevrimiçi ortamda terör içeriklerini daha hızlı saptamak ve yayılmasını yavaşlatmak için altı ay önce Microsoft, Twitter ve YouTube ile bir araya geldik ve terörist gruplar tarafından ya da onları destekleyici biçimde hazırlanan içerikler için fotoğraf ve videoların özgün dijital parmak izlerini (“hashes”) barındıran ortak bir veri tabanı oluşturduk. Bu işbirliği şimdiden meyvelerini vermeye başladı ve gelecekte daha fazla paydaşı bu amaca dâhil etmeyi umuyoruz. İş ortaklarımıza Facebook’u güvende tutmaya yardım ettikleri için minnettarız.
· Devletler: Devletler ve devletlerarası aktörler, şirketlerin bağımsız olarak geliştirmeleri imkânsız olan uzmanlığı bir araya getirme ve temin etme konusunda merkezi bir rol oynamakta. Farklı ülkelerdeki aktörlerle yaptığımız bilgilendirme toplantılarından DAEŞ ve El-Kaide propaganda yöntemleri ile ilgili pek çok şey öğrendik. Aynı zamanda Avrupa Birliği İnternet Forumu, DAEŞ’la Mücadele Küresel Koalisyonu ve Birleşik Krallık İçişleri Bakanlığı gibi kurumların sektör işbirliğini desteklemek üzere yaptıkları faaliyetlere katıldık ve bunlardan çok istifade ettik.
· Şifreleme (Encryption): Teröristlerin bazen iletişim kurmak için şifreli mesajlaşma kullandıklarını biliyoruz. Şifreleme teknolojisinin çevrimiçi bankacılıktan fotoğraflarınızı güvende tutmaya kadar pek çok meşru kullanım alanı var. Bu, aynı zamanda gazeteciler, STK çalışanları, insan hakları konusunda mücadele edenler ve mesajlarının güvende kalacağından emin olması gereken diğer kişiler için çok önemli. Uçtan uca şifrelemenin “end-to-end encryption” çalışma biçimi nedeniyle bireysel olarak şifrelenen mesajların içeriğini okuyamıyoruz; ama ilgili yasa ve politikalarla uyumlu, geçerli emniyet teşkilatı talepleri olduğunda elimizde olan bilgileri paylaşmaktayız.
· Karşı söylem eğitimleri (Counterspeech training) : Çevrimiçi ortamda aşırı uç söylemlere karşı çıkmanın, onları sorgulamanın, gerçek dünyadaki aşırılıklara karşı verilen cevabın önemli bir kısmını oluşturduğuna inanıyoruz. Karşı söylem pek çok farklı formda olabiliyor; ama hepsinin temelinde insanları nefretle ve şiddetle dolu bir yaşamdan vazgeçirmeye ikna etmek yatıyor. Fakat karşı söylem, ancak güvenilir konuşmacılardan gelirse etkili oluyor. Bu yüzden, en çok önem verilen sesleri daha fazla duyurabilmek için STK’lar ve topluluk gruplarıyla işbirliği yapmaktayız
· İşbirliği programları: Çeşitli karşı söylem programına destek veriyoruz. Örneğin geçen sene Stratejik Diyalog Enstitüsü (Institute for Strategic Dialogue) ile “Online Civil Courage” inisiyatifini başlattık. Proje ile Avrupa’daki yüzden fazla nefret ve aşırılık karşıtı organizasyonla temaslarda bulunduk. Aynı zamanda Affinis Labs ile birlikte Manila, Dhaka ve Jakarta gibi yerlerde, topluluk liderlerinin teknoloji girişimcileriyle bir araya gelerek çevrimiçi ortamda aşırılık ve nefretle mücadele için yenilikçi çözümlerin üretildiği hackathonlar düzenledik. Desteklediklerimiz arasında en geniş küresel erişime sahip olanı ise “Peer 2 Peer (P2P): Facebook Global Digital Challange” öğrenci yarışması programı. İki seneden kısa bir sürede P2P, 68 ülkede 5,500’den fazla üniversite öğrencisi tarafından yaratılan 500’den fazla nefret ve aşırılık karşıtı kampanya ile dünya çapında 56 milyondan fazla kişiye ulaştı.”
Monika Bickert ve Brian Fishman yazıılarının sonunda Facebook'un teröristler için düşmanca bir yer yani bir “terrorist yuvası” olmasını istemediklerini . Çevrimiçi topluluklar ve , gerçek dünyadaki topluluklar açısından zorluk taşıyan problemin daha oluşma aşamasındayken yerinde teşhisi ve erken sinyallerinin geç olmadan tespit edilmesinde çalışacaklarına dair güvence vermis. terörizmi platformlarından uzak tutmayı kesinlikle taahhüt ettiklerini ve gelecekte de bu konudaki çalışmaları hakkında daha fazla bilgi paylaşmaya devam edeceklerini belirtmişlerdir.
Konuya ilgi gösterenlerin öneri ,soru ve desteklerini yönlendirmeleri için bir de E-Posta adres verilmiş hardquestions@fb.com
Terorizm Facebook’dan, evlerden, ülkemizden ve Dünya’dan ırak olsun diyelim, dileyelim ve ötekileştirici kutuplaştırıcı, kışkırtıcı nefret dilinin yerine etkin, kalıcı bir huzur ve barışın tesisi için gerekli olan adalet, merhamet, liyakat, sadakat gibi değerler zincirinin kuşatıcı dilini kuşanalım diyerek bu uzun cümleye bir nokta koyalım.
[i] Facebook Blog https://newsroom.fb.com/news/2017/06/how-we-counter-terrorism/ June 15, 2017 Hard Questions: How We Counter Terrorism By Monika Bickert, Director of Global Policy Management, and Brian Fishman, Counterterrorism Policy Manager
[ii] Türk Ceza Kanunda Tekerrür http://e-akademi.org/makaleler/yyasar-2.htm
Facebook will use artificial intelligence to fight “terrorist content” By Carter Sherman on Jun 15, 2017 https://news.vice.com/story/facebook-will-use-artificial-intelligence-to-fight-terrorist-content
Comments