Будучи весьма плодовитой и достаточно неприхотливой рыбой, карп в изобилии населяет большую часть пресных водоёмов Евразии.
Карп охотно обживает реки, озёра, пруды, водохранилища, словом, все водоёмы со слабым или средней силы течением и достаточно тёплой водой. Менее требовательный к кислородному режиму прудовой карп может жить и в непроточных прудах, при условии, что глубина их в русловой части составляет не менее 3 м. В неглубоких водоёмах карп быстро мельчает, постоянно ощущая дефицит кислорода и белковой пищи. Впрочем, в водоёме с глубинами 2-2,5 м может обитать весьма обширная популяция некрупных карпов. Особенно хорошо приживается карп в оросительных каналах, находя здесь всё необходимое для комфортного существования: медленное течение, тёплую, не слишком глубокую воду, обилие живого корма и тростниковых зарослей
Можно сказать, что полноценное обживание карпом того или иного водоёма находится в прямой зависимости от наличия на нём достаточного количества тростника. Здесь рыба находит себе укрытие, места для нереста, богатые «кормовые поля». Молодые побеги камыша — сочные, нежные и сладкие — составляют любимую и, местами, единственную пищу карпа в течение мая-июня. Там же, где камыша мало или нет вовсе, популяция карпов, как правило, крайне невелика. Нерест в таких водоёмах не ежегодный, а выметанная икра, чаще всего, полностью истребляется мелкими хищниками, птицами и самими родителями.
Подобно окуню, в прибрежных тростниках карп часто образует особую жизненную форму — «мелкого» или «тростникового» карпа. Особи этой популяции никогда не покидают прибрежной зоны. Внешне они ничем не отличаются от молодых карпов, но становятся способны к икрометанию при очень малом росте. Растёт «тростниковый» карп крайне медленно и редко достигает более полутора килограммов веса.
Слишком больших глубин карп не любит, а потому в гранитных и торфяных карьерах приживается плохо. Водные котловины, в рельефе которых отсутствуют полой и отмели, для обитания этой рыбы малопригодны. Сказанное, впрочем, не относится к чешуйчатой разновидности, представители которой заселяют иногда даже очень глубокие карьеры, в которых вырастают до впечатляющих размеров.
Пожалуй, единственные водоёмы, где карп не может жить вообще — быстрые горные реки и бессточные лесные озёра. В последних рыба не выживает из-за недостатка корма, а также слишком холодной воды питающих эти озёра подземных ключей. Впрочем, в Сибири карп прекрасно приживается в искусственных прудах и даже довольно глубоких.
Карп, как правило, ведёт оседлый образ жизни, редко покидая однажды избранные стоянки. В реках мелкий карп всегда держится около густых прибрежных зарослей. Крупный предпочитает глубинные коряжники, крепи и подводные пещеры, где зачастую соседствует с сомом.
Сазан или, как его иногда называют, дикий речной карп заселяет обширные плёсы крупных и средних рек, затоки, старицы и прочие участки с медленным течением. Он любит обосновываться в небольших тихих речках неподалёку от их впадения в более крупные. На стрежень почти никогда не выходит, кроме (и то лишь изредка) самых больших и сильных особей, делающих это для своеобразного моциона. В дельтах рек, впадающих в тёплые моря, речной карп образует полупроходную форму, населяющую саму дельту, слабосолёные лиманы, наиболее опреснённые участки моря.
Прудовой карп, обитающий в прудах, озёрах и водохранилищах, обживает все кормные участки водоёма на глубине от 1 до 3 метров. Крупные особи могут обитать и на больших глубинах, но обязательно вблизи каких-либо укрытий или неровностей дна. Даже поселяясь на глубине, карпы регулярно выходят на прогреваемые солнцем и богатые кормом отмели. Излюбленное место карповых стоянок — граница камышовых зарослей с уходящим в сторону русла ступенчатым свалом. Как и другая стайная рыба (лещ, карась, густера) карпы в поисках корма часто перемещаются вдоль и поперёк свала, а при необходимости находят безопасное укрытие в прибрежных зарослях. Чем крупнее карп, тем на большей глубине ищет он для себя укрытие, в качестве которого чаще всего выбирает крепи и коряжники.
Карп, хотя и очень теплолюбив, старательно избегает прямых солнечных лучей. Падающие на воду световые пятна настораживают его, заставляя держаться затенённых, укромных мест, покидает которые карп только в сумерках. Днём же он либо уходит на глубину, либо стоит под стеной камыша, под лавдами (лавда — плавучая трясина или плавучий остров), нависшими над водой ветвями, в зарослях кувшинок или ряски.