Появление датацентров можно исторически связать с появлением первых промышленных вычислительных машин, которые были настолько большими, что требовали отдельных помещений, а то и целых зданий со сложной инженерной инфраструктурой. И отделение вычислительной техники от людей было еще обусловлено тем высоким уровнем вредоносного излучения, которое испускали компьютеры прошлых лет.
Современные датацентры также могут представлять собой целые здания, предназначенные для размещений десятков, сотен, а то и тысяч серверов, серверных стоек, средств коммуникации и других инженерных систем. Современный, надежный датацентр это не только место, где физически размещается вычислительная и телекоммуникационная техника. Для обеспечения надежности работы и сохранности информации в нем должна быть предусмотрена возможность автономной работы в течении длительного времени, установлена система кондиционирования воздуха, а также системы обеспечения физической безопасности установленной техники, в том числе и система автоматического пожаротушения.
Стоит отметить, что создание таких датацентров, при всей кажущейся сложности и дороговизне, экономически выгодно как для их владельцев, так и для потребителей услуг, которые такие дата центры.