物种形成是种群演变为不同物种的进化过程。它涉及谱系的分离与分化；在有性生殖生物中，这一过程通常伴随着生殖隔离的形成，即出现减少种群间遗传交流的屏障。物种形成将种群内部的变化与进化谱系的分支联系起来。它通常是一个漫长的过程，而非单一事件，不过某些遗传变化也能迅速建立生殖屏障。(pubmed.ncbi.nlm.nih.gov)
物种界限与谱系分化
生物学物种概念强调，物种由能够在自然条件下相互交配、并与其他此类种群存在生殖隔离的种群组成。其他方法则依据生态分化、鉴别特征或祖先关系来识别物种。一般谱系框架将物种视为独立进化的种群谱系，把生殖隔离和其他区别性属性看作谱系分离的证据，而非普遍必需的条件。这些属性不一定同时形成，因此中间阶段往往难以归类。(pubmed.ncbi.nlm.nih.gov)
因此，物种形成不同于仅仅出现新的外观或形成局部适应。正在分化的种群必须获得足够的独立性，才能作为不同谱系持续存在。物种形成并不总是要求完全无法杂交：一些已被认可的物种仍保留有限的基因流，而生殖屏障可能只阻止其基因组的部分区域发生交流。反过来，仅有地理隔离也不能证明物种形成已经发生。(pmc.ncbi.nlm.nih.gov)
地理模式
传统分类描述的是分化种群之间的空间关系：
- **异域物种形成**发生于外部地理屏障极大限制种群间交流的情况下。种群随后各自进化，并可能形成生殖屏障。
- **边域物种形成**是异域物种形成的一种情形，涉及一个隔离的边缘种群，该种群通常由较少的个体建立。
- **邻域物种形成**涉及彼此相邻、但交流受限的种群，常发生于环境梯度两侧。
- **同域物种形成**发生于分化种群之间不存在外部地理屏障的情况下。生态特化或非随机交配可以减少分布范围重叠的种群之间的交流。(pmc.ncbi.nlm.nih.gov)
这些类别描述的是一个连续谱，而非四种完全独立的机制。一个谱系可能在不同阶段经历隔离、再次接触和持续分化。仅凭现今地理分布重叠，不能确定物种起源于同域分化，因为种群可能先在别处分化，之后才汇聚到一起。因此，研究者会区分地理条件与产生生殖屏障的进化力量。(pmc.ncbi.nlm.nih.gov)
生殖屏障
合子前屏障在受精之前发挥作用。种群可能占据不同的生境，在不同时间繁殖，对不同的求偶信号作出反应，或者具有彼此不兼容的交配结构或配子。在开花植物中，花期和传粉系统的差异可以显著减少异交受精。这类屏障会限制杂交后代的产生，而不必要求杂交后代本身不育。(nature.com)
合子后屏障在受精之后发挥作用。杂交后代可能发育不良、生育力降低，或产生生存和繁殖表现较差的后代。内在屏障源于亲本遗传系统之间的不兼容；依赖环境的屏障则产生于杂交后代的特征不适合任一亲本所处环境的情况。多种屏障可以共同发挥作用，因此总体隔离程度往往强于任何单一屏障所能达到的程度。(pubmed.ncbi.nlm.nih.gov)
当种群间交配产生适合度较低的杂交后代时，自然选择可能有利于减少此类交配的性状。这一过程称为强化，它通过不利于杂交的选择作用增强交配前隔离。该过程要求种群之间存在接触，有别于种群独立进化过程中附带产生的生殖屏障。(pubmed.ncbi.nlm.nih.gov)
进化与遗传机制
在生态物种形成中，不同环境有利于不同的适应，而这些差异会产生生殖隔离。资源利用方式可以影响个体在何处遇到配偶，而在当地有利的性状也可能影响择偶偏好或杂交后代的表现。当种群的交配信号和偏好发生分化时，性选择可以促进物种形成，有时还会与生态差异共同发挥作用。(nature.com)
突变提供新的遗传变异，而选择和遗传漂变则影响这些变异的传播。根据多布然斯基—穆勒模型，在各自种群内能够正常发挥作用的遗传变化，在杂交后代中组合到一起时可能发生不利的相互作用。这解释了为何杂交不育或杂交后代不可存活的现象能够演化出来，而两个亲本种群都不必经历本身功能失常的中间阶段。相关相互作用可能涉及多个基因和等位基因，而非单一的“物种形成突变”。(pmc.ncbi.nlm.nih.gov)
多倍性，即拥有两套以上完整的染色体组，是物种形成的另一条途径，在植物中尤为常见。染色体加倍可以使个体与其二倍体近缘类群之间形成生殖隔离。如果加倍发生在种间杂交之后，还可以为染色体提供相应的配对伙伴，从而有助于恢复生育力。然而，产生一个具有生殖隔离的个体，并不等同于建立一个能够持续存在的种群。婆罗门参属（Tragopogon）中新近形成的多倍体物种，为这一途径提供了有记录的实例。(pmc.ncbi.nlm.nih.gov)
证据与研究方法
物种形成研究结合了交配实验、对交配行为和生态的观察，以及遗传比较。DNA测序和基于群体遗传学的分析，有助于识别基因组分化及阻碍交流的屏障。遗传研究可以将特定变异与杂交后代的功能异常联系起来，而生态实验则检验不同环境是否会产生隔离。多条相互独立的证据能够增强对谱系分离的判断。(pmc.ncbi.nlm.nih.gov)
苹果实蝇（Rhagoletis pomonella）展示了伴有基因流的持续分化。利用苹果和利用山楂的种群，在寄主偏好和季节性发育方面存在差异。由于寄主利用会影响交配机会，这些差异有助于形成部分生殖隔离。研究者将它们作为寄主型以及初期生态物种形成的实例来研究，而不是简单地认定它们已经成为完全独立的物种。(pmc.ncbi.nlm.nih.gov)
对于无性生殖生物，不能直接应用相互交配的判据。研究者转而考察遗传聚类、生态分化，以及种群独立进化的证据。对无性生殖生物的研究表明，即使不存在有性生殖物种形成中起核心作用的交配屏障，空间隔离和对不同生态条件的适应仍能产生不同的谱系。(pmc.ncbi.nlm.nih.gov)