Después de enseñar en Harvard, sus investigaciones comenzaron con trabajos de guerra para la U.S. Navy Board of Ordnance (Consejo Naval de Artillería de EE.UU.). Con otros tres ingenieros (Clair D. Lake, B.M. Durfee y F.E. Hamilton), Aiken comenzó a trabajar en 1939 en una máquina automática de calcular que pudiese realizar cualquier secuencia seleccionada de 5 operaciones aritméticas (suma, resta, multiplicación, división y referencia a resultados anteriores) sin intervención humana, para lo que recibió una subvención de 500.000 dólares americanos del primer jefe ejecutivo de IBM, Thomas J. Watson.
La primera máquina de este tipo, el Mark I, fue terminada por Aiken y sus compañeros en Febrero de 1944, y al principio fue llamada "Automatic Sequence Controlled Calculator", ASCC (Calculadora Automática de Secuencias Controladas). Inmediatamente finalizada la marina de los EE.UU requisó tanto a la máquina como a su inventor para usarlos durante la Segunda Guerra Mundial, Aiken alcanzó el grado de Comandante, y la MARK I se usó para el cálculo de las tablas navales de Artillería. Continuando su trabajo, Aiken completó un mejorado Mark II, totalmente eléctrico en 1947.
Recibió muchos honores de Estados Unidos, Francia, Países Bajos, Bélgica y Alemania, y también contribuyo con numerosos artículos para periódicos de electrónica, teoría de computadores y procesamiento de datos. El papel de Aiken en la historia de la computación en los Estados Unidos y en el mundo es, sin lugar a dudas, muy importante, pues además de diseñar otras máquinas, la creación del Laboratorio de Computación de la Universidad de Harvard lo llevó a iniciar uno de los primeros programas de maestría y doctorado en una nueva disciplina denominada Ciencia de la Computación.
