Важливий крок в удосконалюванні обчислювальної техніки зробив американський математик Джон фон Нейман. Ранні обчислювальні машини могли виконувати тільки команди, що надходять зовні, причому команди виконувалися по черзі. Хоча використання перфокарт дозволяло спростити процес введення команд, проте, часто процес настроювання обчислювальної машини і введення команд займав більше часу, чим власне рішення поставленої задачі. Фон Нейман запропонував включити до складу комп'ютера для збереження послідовності команд і даних спеціальний пристрій - пам'ять. Крім того, Джон фон Нейман запропонував реалізувати в комп'ютері можливість передачі керування від однієї програми до іншої. Можливість зберігати в пам'яті комп'ютера різні набори команд (програми), припиняти виконання однієї програми і передавати керування інший, а потім повертатися до вихідного значно розширювала можливості програмування для обчислювальних машин. Іншою ключовою ідеєю, запропонованою фон Нейманом, став процесор (центральний пристрій), що повинний був керувати усіма функціями комп'ютера. У 1945 році Джон фон Нейман підготував звіт, у якому визначив наступні основні принципи роботи й елементи архітектури комп'ютера:

1. Комп'ютер складається з процесора (центрального пристрою опрацювання інформації), пам'яті і зовнішніх пристроїв.

Єдиним джерелом активності (не вважаючи стартового чи аварійного втручання людини) у комп'ютері є процесор, що, у свою чергу, керується програмою, що знаходиться в пам’яті.

2. Пам'ять комп'ютера складається з комірок, кожна з яких має свою унікальну адресу. 

3. Кожна комірка зберігає команду програми чи одиницю оброблюваної інформації, причому і команда і інформація мають однакове представлення.

4. У будь-який момент процесор виконує одну команду програми, адреса якої знаходиться в спеціальному регістрі процесора - лічильнику команд.

5. Обробка інформації відбувається тільки в регістрах процесора. Інформація в процесор надходить з пам'яті від зовнішнього пристрою.

6. У кожній команді програми зашифровані наступні розпорядження: з яких осередків взяти оброблювану інформацію; які операції зробити з цією інформацією; у які комірки пам'яті направити результат; як змінити вміст лічильника команд, щоб знати, відкіля взяти наступну команду для виконання.

7. Процесор виконує програму команда за командою відповідно до зміни вмісту лічильника команд доти , поки не одержить команду зупинитися.

Надалі архітектура фон Неймана незначно змінювалася і доповнювалася, але вихідні принципи керування роботою комп'ютера за допомогою програм, що зберігаються в пам'яті, залишилися недоторканими. Переважна більшість сучасних комп'ютерів побудовано саме по архітектурі фон Неймана.

 У 1951 році був створений перший комп'ютер, призначений для комерційного використання, - УНІВАК (універсальний автоматичний комп'ютер), у якому були реалізовані всі принципи архітектури ФОН Неймана. У 1952 році за допомогою УНІВАК був спрогнозований результат виборів президента США. Роботи зі створення обчислювальних машин велися й у СРСР. Так, у 1950 році в Інституті електроніки Академії наук України під керівництвом академіка Сергія Олексійовича Лебедєва була розроблена і введена в експлуатацію МЕСМ (мала електронна рахункова машина). МЕСМ стала першою вітчизняною універсальною ламповою обчислювальною машиною в СРСР. У 1952-1953 роках МЕСМ залишалася самою, швидкодіючою (50 операцій у секунду) обчислювальною машиною в Європі. Принципи побудови МЕСМ були розроблені С. А. Лебедєв незалежно від аналогічних робіт на Заході.

 У комп'ютерах першого покоління використовувалася машинна мова - спосіб запису програм, що допускає їхнє безпосереднє виконання на комп'ютері. Програма машинною мовою являє собою послідовність машинних команд, припустимих для даного комп'ютера. Процесор безпосередньо сприймає і виконує команди, виражені у виді двійкових кодів. Для кожного комп'ютера існувала своя власна машинна мова. Це також обмежувало область застосування комп'ютерів першого покоління.

Поява першого покоління комп'ютерів стала можливо завдяки трьом технічним нововведенням: електронним вакуумним лампам, цифровому кодуванню інформації і створенню пристроїв штучної пам'яті на електростатичних трубках. Комп'ютери першого покоління мали невисоку продуктивність: до декількох тисяч операцій у секунду. У комп'ютерах першого покоління використовувалася архітектура ФОН Неймана. Засобу програмування і програмне забезпечення ще не були розвиті, використовувалася низкоурівнева машинна мова. Область застосування комп'ютерів була обмежена.