En la Universidad de Londres obtuvo en 1870 el título de bachiller en ciencias. En 1874, en la Sociedad de Física de Londres el primer escrito que se leyó fue de Fleming. En 1877 trabajó en la Universidad de Cambridge bajo las órdenes de Maxwell. En 1879 recibió el grado de doctor y continuó en el laboratorio de Cambridge hasta 1881. Trabajó como ingeniero consultor en la Compañía de Iluminación Eléctrica Edison de Londres y de profesor de ingeniería eléctrica.
Fue científico consejero de la Compañía de Telegrafía Inalámbrica Marconi. En 1883 Edison observó al atravesar la corriente el filamento de la bombilla incandescente, se fundía. Además, con las horas se producía el ennegrecimiento interno del cristal. Fue Fleming quien descubriría la explicación científica y la aplicación práctica del "Efecto Edison".
En 1904 el resultado fue el descubrimiento de la válvula electrónica diodo. Por la válvula termoiónica, la Real Sociedad de las Artes de Londres le otorgó, en 1921, la “Medalla de Oro Albert”. En 1928, la medalla “Faraday”, por la Institución Británica de Ingenieros Eléctricos.
En los Estados Unidos recibió la medalla “Franklin y en Inglaterra, el de “Sir”. En 1930 lo eligieron presidente de la Sociedad de Televisión de Londres y recibió el premio y medalla de honor IRE.
Realizó investigaciones fotometría y corriente alterna. También desarrolló la telegrafía y telefonía inalámbrica. Diseñó el alumbrado para embarcaciones. Incluyendo escritos científicos y libros.
