오비탈 (orbital)이론이 정립되고 원자들이 결합하여 분자를 형성하는 이유에 대한 가장 직관적인 설명은 전자구름이 겹쳐서 공유결합을 형성한다는 것이었다. 그런데 이러한 원자 오비탈의 모형으로는 이미 알려져 있는 각종 분자의 결합형태를 설명할 수가 없었다.
예를 들면 메테인 (CH4)분자에서 C가 H와 결합할 때 2S와 2P 오비탈이 결합에 참여하는데 본래 C에 존재하는 3개의 2P 오비탈은 서로 직각이다. 따라서 이들이 C-H결합을 형성하면 결합각이 90°가 되어야 하지만 실제 메테인의 결합각은 109.5°으로 정사면체 구조를 이룬다.
또한 C의 2p와 H의 1s 사이의 중첩에 의한 3개의 결합과 C의 2s와 H의 1s 사이의 중첩에 의한 1개의 결합이 생기면 2p와 2s의 에너지가 엄연히 다르므로 결합길이나 에너지가 차이가 나야한다. 그러나 메테인에 존재하는 4개의 공유결합은 모두 결합길이나 에너지가 동일하다.
이러한 현상을 설명하기 위해 등장한 이론이 바로 혼성 오비탈(Hybrid Orbital)이다.
혼성 오비탈을 형성하기 위한 혼성화 (Hybridization)란 결합을 형성하기 위하여 원래의 원자 궤도함수들이 혼합되어 새로운 궤도함수를 형성하는 것을 의미한다.
2. 혼성 오비탈의 종류
가. sp3 혼성화 (sp3 Hybridization)
정사면체 구조를 가진 원자 궤도함수를 이루는 원자는 그 중심원자가 sp3 혼성화를 이룬다. 다시말해 입체수가 4인 분자에서 중심원자는 sp3 혼성 오비탈을 가진다고 할 수 있다.
1개의 s 오비탈과 3개의 p오비탈이 혼성되어 새로운 4개의 혼성오비탈을 형성한다.
이들 혼성오비탈 안의 전자들은 모두 에너지 준위가 같다.
그러나 비공유 전자쌍이 있으면 그들 사이의 반발력이 결합에 참여한 전자보다 더 크기 때문에 결합각이 작아진다는 것을 알고 있을 것이다.
이 때의 에너지 준위차이를 설명하기 위해서는 분자 오비탈의 개념까지 다뤄야 한다. 비공유 전자쌍의 반발력이 더 큰 이유는 비공유전자쌍은 중심원자로 부터남 인력이 작용하기 때문이다. 서로 밀어내는 작용하는 전자가 가까이 붙어 있으니 반발력이 더 크다.
나. sp2 혼성화 (sp2 Hybridization)
1개의 S 오비탈과 2개의 p 오비탈이 혼성화되어 새로운 3개의 혼성 오비탈을 형성한다.
이 때 나머지 한개의 p 오비탈은 혼성에 참여하지 않고 sp2 혼성 오비탈의 평면에 수직 방향으로 놓이게 된다. 세개의 유효한 시그마 결합을 가졌다면 sp2 혼성 오비탈을 가지는 것이다.
따라서 p 오비탈 하나는 빈 오비탈이 되는데 이렇게 빈 오비탈을 가진 분자들이 루이스산으로 잘 작용한다.
배위 결합은 BF3 같은 분자들이 그 예시이다.
다. SP 혼성화 (SP Hybridization)
1개의 s 오비탈과 1개의 p 오비탈이 수학적으로 혼합되어 2개의 새로운 혼성 오비탈을 형성한다.
에타인 (C2H2)의 분자를 생각해 보면 혼성화에 참여하지 않은 2개의 p오비탈이 sp 혼성 오비탈끼리 결합하여 형성된 시그마 결합에 수직하게 (각각 수직하게) 파이결합을 각각 형성한다. 이러한 삼중결합은 두개의 파이결합이 끊어지기 전까지 평면구조를 유지하는데 기여한다.
라. sp3d 혼성화 (sp3d Hybridization)
중심원자의 입체수가 5인 PCl5와 같은 분자에서 중심원자는 5개의 동일한 공유결합을 한다. 따라서 P는 5개의 동일한 오비탈을 사용하여야 한다. P과 같은 3주기 이후의 원소들은 에너지가 그리 높지 않은 d 오비탈을 최외각에 가지고 있다.
따라서 d 오비탈을 쉽게 활용할 수 있다. 즉 PCl5 의 P원자는 1개의 3s, 3개의 3p와 함께 3d 오비탈을 1개 섞음으로써 5개의 동일한 dsp3 혼성 오비탈을 형성한다. 입체수가 5인 다른 분자들의 중심원자들도 같은 혼성을 한다.
마. sp3d2 혼성화 (sp3d2 Hybridization)
비슷하게 입체수가 6인 SF6 와 같은 분자들은 중심원자는 1개의 S, 3개의 p, 그리고 d 오비탈 2개를 섞어 6개의 동일한 d2sp3 혼성 오비탈을 형성한다.
