In Software Defined Networking (SDN) and Network Functions Virtualization (NFV)enabled environments, network security is provided by virtualizing security functions suchas intrusion detection system and deep packet inspection etc., and deploying them ongeneral-purpose servers as software. The traffic handled by virtual security functions (VSF)may have different security requirements. On the other hand, there are some operationalobjectives that differ according to the needs of the network such as minimizing cost and loadbalancing. Therefore, the issue of placing VSFs considering both security requirements andoperational objectives is an important research challenge. In this regard, the studiesconducted in the scope of this thesis is grouped under three parts. In the first study, a novelthematic taxonomy for classifying current VSF placement solutions is developed for the firsttime in the literature. State-of-the-art studies are reviewed and categorized based upon theeight dimensions of the developed taxonomy. In the second study, the problem of (i) VSFplacement with the objective of minimizing energy consumption while meeting securityrequirements of the traffic at the flow-level, (ii) and routing flows through the VSFsaccording to their needs is defined and modelled for the first time in the literature. To thisend, an Integer Linear Programming (ILP) model is developed to minimize server energyconsumption. In addition, a novel heuristic algorithm that produces solutions minimizingenergy consumption within practical time limits is proposed to solve the scalability issue ofthe ILP model for larger scale network instances. Finally in the third study, an SDNcontroller that forwards network traffic according to the results of the proposed energyefficient VSF placement heuristic is developed in order to demonstrate the practicality ofour placement approach in SDN infrastructures. As a result, it is concluded that thedeveloped methods can reduce energy consumption by up to 48%, and network traffic canbe effectively routed in terms of the QoS parameters including throughput, end-to-endlatency, packet loss rate, and jitter.

Yazılım Tanımlı Ağlar (Software Defined Networking - SDN) ve Ağ FonksiyonlarınıSanallaştırma (Network Functions Virtualization – NFV) teknolojilerinin kullanıldığıortamlarda güvenlik; saldırı tespit sistemi ve güvenlik duvarı gibi fonksiyonlarınsanallaştırılması ve birer yazılım haline getirilerek genel amaçlı sunucular üzerindeçalıştırılması ile sağlanmaktadır. Bir ağda, sanal güvenlik fonksiyonları (virtual securityfunctions - VSF) tarafından işlenen trafik akışlarının farklı güvenlik gereksinimleriolabilmektedir. Öte yandan her ağda, güvenlik sağlanırken göz önünde bulundurulmasıgereken ve ağın ihtiyaçlarına göre farklılık gösteren bir takım operasyonel amaçlar(maliyetin ez aza indirgenmesi, yük dengeleme yapılması vb.) vardır. Bu nedenle, ağıngüvenlik gereksinimlerini ve operasyonel amaçlarını göz önünde bulundurarak VSF'lerinyerleştirilmesi ele alınması gereken önemli bir problemdir. Bu doğrultuda, tez kapsamındayapılan çalışmalar üç başlık altında toplanmıştır. İlk çalışmada, literatürde ilk defa birtaksonomi geliştirilmiş ve literatürdeki mevcut VSF yerleştirme çözümleri bu taksonomiışığında sekiz boyutta sınıflandırılarak tartışılmıştır. İkinci çalışmada, literatürde ilk defa,trafik akışı bazında güvenlik gereksinimleri göz önünde bulundurularak enerji etkin birşekilde sanal ağ güvenliği fonksiyonlarının yerleştirilmesi ve trafiğin ihtiyaçlarıdoğrultusunda bu fonksiyonlar üzerinden yönlendirilmesi problemi modellenmiş veçözülmüştür. Bu amaçla, bir Tam Sayılı Doğrusal Programlama (Integer LinearProgramming – ILP) modeli geliştirilmiş ve bu modelin ölçeklenebilirlik sorununu çözmekiçin enerji tüketimini en aza indirgeyen çözümleri kısa sürede üreten yeni bir sezgiselalgoritma önerilmiştir. Son olarak üçüncü çalışmada, geliştirilen yaklaşımın yazılım tanımlıağ altyapısında uygulanabilirliğini göstermek için sezgisel algoritmanın aldığı kararlardoğrultusunda ağa gelen trafik akışlarını yönlendiren SDN kontrolcüsü geliştirilmiştir.Sonuç olarak, geliştirilen yöntemlerin, enerji tüketimini %48'e kadar azalttığı ve geliştirilenSDN kontrolcüsünün ağa gelen trafiği toplam bant genişliği, uçtan uca gecikme, paket kayıporanı ve jitter gibi hizmet kalitesi parametreleri açısından etkin bir şekilde yönlendirebildiğigörülmüştür.