Истоки компании берут своё начало в 1913 году, когда мать двух братьев, Тео и Карла Альбрехтов, открыла магазин в пригороде Эссена. Их отец работал специалистом по горному делу, а позже стал ассистентом пекаря в магазине супруги.

Карл родился в 1920, а Тео — в 1922 году. Карл служил в немецкой армии во время Второй мировой войны. В 1946 году они получили контроль над бизнесом своей матери и в скором времени открыли неподалеку новую розничную точку. К 1950 году братья Альбрехты уже владели 13 магазинами в Рурском регионе.

К концу 1950-х годов братьям принадлежало более 350 магазинов. В начале 1960-х годов компания Aldi занимала 47% национального рынка, но под давлением антимонопольного комитета Германии была вынуждена искать новые рынки в других странах.

В 1961 году братья разделили бизнес на южную компанию Aldi Süd (принадлежит Карлу) и северную Aldi Nord (Теодору). Считается, что причиной «развода» послужил спор между братьями о том, стоит ли выкладывать сигареты в открытый доступ для покупателей или их должен выдавать кассир. Сейчас магазины двух компаний, хоть и формально юридически разделенных, ничем не отличаются друг от друга. Интересно, что братья, несмотря на раздел бизнеса, не переставали дружить.

Первый филиал за пределами Германии Aldi открыла в Бельгии, а в 1976 году магазины компании появились в США.

Будучи сетью магазинов — жестких дискаунтеров (торговая наценка — порядка 12%), Aldi экономит на торговых площадях, оборудовании, персонале, поддерживая, однако, единый уровень обслуживания, ассортимента и качества товаров. В частности, в магазинах сети нет витрин, менее широкий выбор товаров по сравнению с торговыми точками других типов. Средняя площадь магазина составляет 1000–1500 квадратных метра, ассортимент — всего 700–800 позиций, более 80% — собственная торговая марка; в магазинах работают по три-четыре человека.