一、简介

专栏总目录

本文介绍RK3588平台的Camera:MIPI-CSI调试之通路解析

【资料图】

MIPI联【lián】盟，即移动产【chǎn】业处理【lǐ】器接口（Mobile Industry Processor Interface 简称MIPI）联盟。MIPI（移【yí】动产【chǎn】业【yè】处理【lǐ】器接口【kǒu】）是MIPI联盟发起的为移动应用处理器制定的开放标准和一个规【guī】范【fàn】。

目的是把手机内部的接口如摄像头、显示屏接口、射频/基【jī】带接口等标准化【huà】，从而【ér】减少手机设【shè】计的复杂程度和增【zēng】加【jiā】设计灵活性。

CSI & DSI

• CSI ( Camera Serial Interface )：摄【shè】像头【tóu】接口

• DSI ( Display Serial Interface )：显示接口

二、 名词解释：

ISP ( Image Signal Processor )： 即【jí】图【tú】像信号处理模块， 主要作用是对前端图像传感器输出的信号做后期处理，依赖于 ISP 才能在不同的光学条【tiáo】件下都能较【jiào】好的还原现场细节。VICAP（ Video capture ）：视频捕获单元

三、RK3588 的camera通路:

多sensor支持：

单路硬件isp最多【duō】支持4路复用，isp复用情况支持【chí】分辨率【lǜ】如下：2路复用：最大分【fèn】辨率3840x2160，dts对应配置2路rkisp_vir设备。3路或【huò】4路【lù】复【fù】用【yòng】：最大分辨率2560x1536，dts对【duì】应配置【zhì】3或4路【lù】rkisp_vir设备。硬件【jiàn】支持最多采集【jí】7路sensor：6mipi + 1dvp，多sensor软件通路如下【xià】：

下【xià】图是RK3588 camera连接链路【lù】示意【yì】图，可以支持7路camera。

四、 链路解析：

图中：mipi camera2---> csi2_dphy1 ---> mipi2_csi2 ---> rkcif_mipi_lvds2--->rkcif_mipi_lvds2_sditf --->rkisp0_vir2

对【duì】应节【jiē】点：imx415 ---> csi2_dphy0 ---> mipi2_csi2 ---> rkcif_mipi_lvds2--->rkcif_mipi_lvds2_sditf --->rkisp0_vir2

链接【jiē】关系：sensor---> csi2 dphy---->mipi csi host--->vicap

实线链路【lù】解析： Camera sensor ---> dphy ---> 通过【guò】mipi_csi2模【mó】块解析mipi协议---> vicap ( rkcif节点代【dài】表vicap )

虚【xū】线链路解【jiě】析：vicap ---> rkcif_mipi_lvds2_sditf ---> isp

每个vicap节点【diǎn】与isp的链接关系，通过对应【yīng】虚【xū】拟出的XXX_sditf来指【zhǐ】明链接【jiē】关系。

五、RK3588硬件通路框图

rk3588支持【chí】2个isp硬件，每个isp设备可虚拟出多个虚拟节点，软件上通过回读的方式，依次【cì】从【cóng】ddr读取每【měi】一路的图像数据进isp处理【lǐ】。对【duì】于【yú】多摄方案，建议【yì】将【jiāng】数【shù】据流平【píng】均分配到【dào】两个isp上。回读【dú】：指数据经过vicap采【cǎi】集【jí】到ddr，应用获取到【dào】数【shù】据后，将buffer地址推【tuī】送给isp，isp再从【cóng】ddr获取图【tú】像数据。

六、详细解析：

imx415 : Camera sensorcsi2_dphy0 ： rk3588支持【chí】2个dphy硬件【jiàn】，这里我们称之为dphy0_hw/dphy1_hw ，，两个dphy硬件都可以工【gōng】作【zuò】在full mode 和split mode两种【zhǒng】模式【shì】下。

当使用dphy0_hw:

full mode：节【jiē】点名称使用csi2_dphy0，最多支持4 lane。当dphy0_hw使用full mode时【shí】，链路需要按【àn】照【zhào】csi2_dphy1这条链路来【lái】配置，但是节点名称csi2_dphy1需【xū】要修改为【wéi】csi2_dphy0，软件上是通过phy的序【xù】号来区分phy使【shǐ】用【yòng】的模式。split mode：拆分成2个phy使用，分别【bié】为csi2_dphy1（使用0/1 lane）、csi2_dphy2(使【shǐ】用2/3 lane)，每个phy最【zuì】多【duō】支持2 lane。

当使用dphy1_hw:

full mode：节点名称【chēng】使用csi2_dphy3，最多支持【chí】4 lane。当【dāng】dphy1_hw使用full mode时，链路需要按【àn】照csi2_dphy4这条链路来配置，但【dàn】是节点名【míng】称csi2_dphy4需【xū】要修改为csi2_dphy3，软件上是【shì】通过phy的序【xù】号来区分phy使用【yòng】的模【mó】式。split mode：拆分成2个【gè】phy使用，分别为csi2_dphy4（使用0/1 lane）、csi2_dphy5(使【shǐ】用2/3 lane)，每个phy最多支持【chí】2 lane。

dcphy：rk3588支持两个【gè】dcphy，节【jiē】点名称分别【bié】为csi2_dcphy0/csi2_dcphy1。每【měi】个dcphy硬【yìng】件支【zhī】持RX/TX同时使【shǐ】用，对于camera输入【rù】使用的【de】是RX。支持【chí】DPHY/CPHY协议复用；需【xū】要【yào】注意【yì】的是同【tóng】一个dcphy的TX/RX只【zhī】能同时使用DPHY或同时使用CPHY。其他dcphy参数请查阅rk3588数据手册。

使用上述mipi phy节点，需要把对【duì】应的【de】物理节【jiē】点配置【zhì】上。（csi2_dcphy0_hw/csi2_dcphy1_hw/csi2_dphy0_hw/csi2_dphy1_hw）

每个【gè】mipi phy都需要一个csi2模【mó】块来解析mipi协议，节点【diǎn】名【míng】称分【fèn】别为mipi0_csi2~mipi5_csi2。

rk3588所有camera数据都需【xū】要通【tōng】过vicap，再链接到isp。rk3588仅支持一个vicap硬【yìng】件，这个【gè】vicap支持同时输【shū】入6路mipi phy，及一路【lù】dvp数据，所以我们将vicap分【fèn】化【huà】成rkcif_mipi_lvds~rkcif_mipi_lvds5、rkcif_dvp等7个节点，各个节【jiē】点的绑定关系需要严格按【àn】照框图的节【jiē】点序号【hào】配置【zhì】。

每【měi】个vicap节点【diǎn】与isp的链接【jiē】关系，通过对应虚拟出的XXX_sditf来指【zhǐ】明链接【jiē】关系。

rk3588支持2个isp硬件，每个isp设备可虚拟出多个虚拟【nǐ】节点，软件上通过【guò】回读的方式【shì】，依次从ddr读取每一路的图像数据进【jìn】isp处理。对【duì】于多【duō】摄方案，建议将【jiāng】数【shù】据流平均【jun1】分配【pèi】到两个【gè】isp上【shàng】。

直通【tōng】与回读模式【shì】：•直【zhí】通：指数据经过vicap采集，直接发【fā】送给isp处【chù】理，不【bú】存储到ddr。需【xū】要注意的是hdr直通时【shí】，只有【yǒu】短帧是真正的直通，长帧需要存【cún】在ddr，isp再从ddr读取。

•回读：指数据经【jīng】过vicap采【cǎi】集到ddr，应用获取到数据后，将buffer地【dì】址【zhǐ】推【tuī】送【sòng】给isp，isp再从ddr获取图像数据。

•在dts配【pèi】置【zhì】时，一个isp硬【yìng】件，如果只【zhī】配置一个虚拟节点，默认使用直【zhí】通模式，如果配【pèi】置了多个虚拟节【jiē】点【diǎn】默认使用回读模【mó】式。

七、单路【lù】Camera的dts配置说明：( 以imx415摄像头【tóu】为例 )

案例场景【jǐng】：这里使【shǐ】用的【de】是csi2_dphy0的单路camera配置【zhì】：链【liàn】路配置【zhì】： imx415 —> csi2_dphy0 —> mipi2_csi2 —> rkcif_mipi_lvds2—>rkcif_mipi_lvds2_sditf —>rkisp0_vir2

&i2c3 {status = "okay";imx415: imx415@1a {status = "okay";compatible = "sony,imx415";reg = < 0x1a >;clocks = < &cru CLK_MIPI_CAMARAOUT_M3 >;clock-names = "xvclk";pinctrl-names = "default";pinctrl-0 = < &mipim0_camera3_clk >;power-domains = < &power RK3588_PD_VI >;pwdn-gpios = < &gpio1 RK_PB0 GPIO_ACTIVE_HIGH >;reset-gpios = < &gpio4 RK_PA0 GPIO_ACTIVE_LOW >;rockchip,camera-module-index = < 0 >;rockchip,camera-module-facing = "back";rockchip,camera-module-name = "CMK-OT2022-PX1";rockchip,camera-module-lens-name = "IR0147-50IRC-8M-F20";port {imx415_out0: endpoint {remote-endpoint = < &mipidphy0_in_ucam0 >;data-lanes = < 1 2 3 4 >;};};};camera_imx219: camera-imx219@10 {status = "disabled";compatible = "sony,imx219";reg = < 0x10 >;clocks = < &clk_cam_24m >;clock-names = "xvclk";rockchip,camera-module-index = < 0 >;rockchip,camera-module-facing = "back";rockchip,camera-module-name = "rpi-camera-v2";rockchip,camera-module-lens-name = "default";port {imx219_out0: endpoint {remote-endpoint = < &mipidphy0_in_ucam1 >;data-lanes = < 1 2 >;};};};};&csi2_dphy0_hw {status = "okay";};&csi2_dphy0 {status = "okay";ports {#address-cells = < 1 >;#size-cells = < 0 >;port@0 {reg = < 0 >;#address-cells = < 1 >;#size-cells = < 0 >;mipidphy0_in_ucam0: endpoint@1 {reg = < 1 >;remote-endpoint = < &imx415_out0 >;data-lanes = < 1 2 3 4 >;};mipidphy0_in_ucam1: endpoint@2 {reg = < 2 >;remote-endpoint = < &imx219_out0 >;data-lanes = < 1 2 >;};};port@1 {reg = < 1 >;#address-cells = < 1 >;#size-cells = < 0 >;csidphy0_out: endpoint@0 {reg = < 0 >;remote-endpoint = < &mipi2_csi2_input >;};};};};&mipi2_csi2 {status = "okay";ports {#address-cells = < 1 >;#size-cells = < 0 >;port@0 {reg = < 0 >;#address-cells = < 1 >;#size-cells = < 0 >;mipi2_csi2_input: endpoint@1 {reg = < 1 >;remote-endpoint = < &csidphy0_out >;};};port@1 {reg = < 1 >;#address-cells = < 1 >;#size-cells = < 0 >;mipi2_csi2_output: endpoint@0 {reg = < 0 >;remote-endpoint = < &cif_mipi2_in0 >;};};};};&rkcif {status = "okay";};&rkcif_mipi_lvds2 {status = "okay";port {cif_mipi2_in0: endpoint {remote-endpoint = < &mipi2_csi2_output >;};};};&rkcif_mipi_lvds2_sditf {status = "okay";port {mipi_lvds2_sditf: endpoint {remote-endpoint = < &isp0_vir0 >;};};};&rkcif_mmu {status = "okay";};&rkisp0 {status = "okay";};&isp0_mmu {status = "okay";};&rkisp0_vir0 {status = "okay";port {#address-cells = < 1 >;#size-cells = < 0 >;isp0_vir0: endpoint@0 {reg = < 0 >;remote-endpoint = < &mipi_lvds2_sditf >;};};};&pinctrl {camera {cam_pwdn_gpio: cam-pwdn-gpio {rockchip,pins = < 1 RK_PB0 RK_FUNC_GPIO &pcfg_pull_up >;};};};

八、 调试技巧

8.1 i2c设备的【de】通【tōng】用调试【shì】命令：查看设备是否挂载【zǎi】到i2c总线下：

i2cdetect -y 3

8.2 摄像命令

Linux系统摄像命令：

gst-launch-1.0 v4l2src device=/dev/video11 ! video/x-raw,format=NV12,width=3840,height=2160, framerate=30/1 ! xvimagesink

Android系统：

Android系统自【zì】带【dài】相机APP。点击APP，看摄像【xiàng】画面是否正常显示。

8.3 imx415 相关的log信息

dmesg | grep imx415

8.4 查看拓扑结构

media-ctl -d /dev/media0 -p

审核编辑：汤梓红