Общая концепция топливной батареи, или топливного элемента, возникла еще на заре электрохимии. В 1839 году британский физик Уильям Гроув использовал водород и кислород в качестве топлива, катализируемого на платиновых электродах. В конце 1880-х годов два британских химика — Карл Лангер и уроженец Германии Людвиг Монд — разработали топливный элемент с более длительным сроком службы, используя пористый непроводник для удержания электролита. Впоследствии выяснилось, что углеродная основа позволяет использовать гораздо меньше платины, и немецкий химик Вильгельм Оствальд предложил в качестве замены тепловых генераторов электрохимические элементы, в которых углерод окисляется кислородом до углекислого газа. В первые годы XX века Фриц Хабер и Вальтер Нернст в Германии и Эдмон Бауэр во Франции экспериментировали с ячейками, использующими твердый электролит. Однако ограниченный успех и высокая стоимость подавили интерес к продолжению разработок.
С 1932 года и вплоть до окончания Второй мировой войны британский инженер Фрэнсис Томас Бэкон и его коллеги из Кембриджского университета работали над созданием практичных водородно-кислородных топливных элементов со щелочным электролитом. В результате исследований были изобретены газодиффузионные электроды, в которых топливный газ с одной стороны эффективно поддерживается в контролируемом контакте с водным электролитом с другой стороны. К середине века О.К. Давтян из Советского Союза опубликовал результаты экспериментальных работ по твердым электролитам для высокотемпературных топливных элементов и для высоко- и низкотемпературных щелочных электролитных водородно-кислородных элементов.
Потребность в высокоэффективных и стабильных источниках питания для космических спутников и пилотируемых кораблей создала новые захватывающие возможности для разработки топливных элементов в 1950-60-х годах. Ячейки с расплавленным карбонатом и прижатым к электродам оксидом магния были продемонстрированы J.A.A. Ketelaar и G.H.J. Broers из Нидерландов, а очень тонкий гибридный электрод из углерода и металла на тефлоновой связке был разработан другими исследователями. Многие другие технологические достижения, включая разработку новых материалов, сыграли решающую роль в появлении современных практических топливных элементов. Ожидается, что дальнейшее совершенствование материалов и конструкции электродов в сочетании с ростом стоимости ископаемого топлива сделает топливные элементы все более привлекательным альтернативным источником энергии, особенно в Японии и других странах, располагающих скудными невозобновляемыми энергетическими ресурсами. В начале XXI века многие производители электрооборудования разрабатывали энергогенерирующее оборудование на основе технологии топливных элементов.
Американские военные финансируют разработку небольших топливных элементов для солдат, которые смогут носить их в рюкзаках для питания различных электронных устройств, для питания небольших беспилотных самолетов-разведчиков и для питания роботов для разминирования минных полей.