您当前的位置:首页 > IT编程 > 深度学习
| C语言 | Java | VB | VC | python | Android | TensorFlow | C++ | oracle | 学术与代码 | cnn卷积神经网络 | gnn | 图像修复 | Keras | 数据集 | Neo4j | 自然语言处理 | 深度学习 | 医学CAD | 医学影像 | 超参数 | pointnet | pytorch | 异常检测 | Transformers | 情感分类 | 知识图谱 |

自学教程:keras实现多个模型融合(非keras自带模型,这里以3个自己的模型为例)

51自学网 2020-11-12 11:08:53
  深度学习
这篇教程keras实现多个模型融合(非keras自带模型,这里以3个自己的模型为例)写得很实用,希望能帮到您。

keras实现多个模型融合(非keras自带模型,这里以3个自己的模型为例)

该代码可以实现类似图片的效果,多个模型采用第一个输入。

图片来源:https://github.com/keras-team/keras/issues/4205

model2

 

step 1:重新定义模型(这是我自己的模型,你们可以用你们自己的),与预训练不一样,这里定义模型inp要采用公共的,代码如下:


 
  1. def get_model(inp):#重新建立模型,与原来不一样的是这里inp是传入
  2. n_classes = 10
  3. #inp=Input(shape=(120,39))#原来的inp是函数里,传入可以三个公用
  4. reshape=Reshape((1,120,39))(inp)
  5. # pre=ZeroPadding2D(padding=(1, 1))(reshape)
  6. # 1
  7. #reshape=BatchNormalization()(reshape)
  8. conv1=Convolution2D(32, 3, 3, border_mode='same',init='glorot_uniform')(reshape)
  9. #model.add(Activation('relu'))
  10. l1=PReLU()(conv1)
  11. l1=BatchNormalization()(l1)
  12.  
  13. conv2=ZeroPadding2D(padding=(1, 1))(l1)
  14. conv2=Convolution2D(32, 3, 3, border_mode='same',init='glorot_uniform')(conv2)
  15. #model.add(Activation('relu'))
  16. l2=PReLU()(conv2)
  17. l2=BatchNormalization()(l2)
  18.  
  19. m2=AveragePooling2D((3, 3), strides=(3, 3))(l2)
  20. d2=Dropout(0.25)(m2)
  21. # 2
  22. conv3=ZeroPadding2D(padding=(1, 1))(d2)
  23. conv3=Convolution2D(64, 3, 3, border_mode='same',init='glorot_uniform')(conv3)
  24. #model.add(Activation('relu'))
  25. l3=PReLU()(conv3)
  26. l3=BatchNormalization()(l3)
  27.  
  28. conv4=ZeroPadding2D(padding=(1, 1))(l3)
  29. conv4=Convolution2D(64, 3, 3, border_mode='same',init='glorot_uniform')(conv4)
  30. #model.add(Activation('relu'))
  31. l4=PReLU()(conv4)
  32. l4=BatchNormalization()(l4)
  33.  
  34. m4=AveragePooling2D((3, 3), strides=(3, 3))(l4)
  35. d4=Dropout(0.25)(m4)
  36.  
  37. g=GlobalAveragePooling2D()(d4)
  38. #4
  39. # conv4=Convolution2D(32, 3, 3, border_mode='same',init='glorot_uniform')(d3)
  40. # conv4=BatchNormalization()(conv4)
  41. # #model.add(Activation('relu'))
  42. # l4=LeakyReLU(alpha=0.33)(conv4)
  43. # m4=MaxPooling2D((2, 2))(l4)
  44. # d4=Dropout(0.25)(m4)
  45.  
  46. #f=Flatten()(g)
  47. Den=Dense(1024)(g)
  48. #model.add(Activation('relu'))
  49. ld=PReLU()(Den)
  50. ld=Dropout(0.5)(ld)
  51. result=Dense(n_classes, activation='softmax')(ld)
  52.  
  53.  
  54.  
  55. model=Model(input=inp,outputs=result)
  56. return model

step2:加载模型参数,融合模型,代码如下:


 
  1. def merge_model():
  2. inp=Input(shape=(120,39))#融合主要就是Input是同样的,所以重新建立模型
  3. model1=get_model(inp)
  4. model2=get_model(inp)
  5. model3=get_model(inp)
  6. model1.load_weights(model_path+"CNN_mfcc1.h5")#加载各自权重
  7. model2.load_weights(model_path+"CNN_mfcc2.h5")#加载各自权重
  8. model3.load_weights(model_path+"CNN_mfcc3.h5")#加载各自权重
  9.  
  10. r1=model1.output#获得输出
  11. r2=model2.output
  12. r3=model3.output
  13.  
  14. x=concatenate([r1,r2,r3],axis=1)#拼接输出,融合成功
  15. model=Model(input=inp,outputs=x)
  16. return model

step3:根据自己的需要修改模型,我这里只是添加全连接层做分类,代码如下:


 
  1. def modify():#这里修改模型
  2. origin_model=merge_model()
  3. for layer in origin_model.layers:
  4. layer.trainable = False#原来的不训练
  5.  
  6. inp=origin_model.input
  7. x=origin_model.output
  8.  
  9. den=Dense(200,name="fine_dense")(x)
  10. l=PReLU()(den)
  11. l=Dropout(0.5)(l)
  12. result=Dense(10,activation="softmax")(l)
  13.  
  14. model=Model(input=inp,outputs=result)
  15. model.summary()
  16. #编译model
  17. adam = keras.optimizers.Adam(lr = 0.0005, beta_1=0.95, beta_2=0.999,epsilon=1e-08)
  18. #adam = keras.optimizers.Adam(lr = 0.001, beta_1=0.95, beta_2=0.999,epsilon=1e-08)
  19. #sgd = keras.optimizers.SGD(lr = 0.001, decay = 1e-06, momentum = 0.9, nesterov = False)
  20.  
  21. #reduce_lr = ReduceLROnPlateau(monitor = 'loss', factor = 0.1, patience = 2,verbose = 1, min_lr = 0.00000001, mode = 'min')
  22. model.compile(loss='categorical_crossentropy', optimizer=adam, metrics=['accuracy'])
  23.  
  24.  
  25. return model

混淆矩阵示列
卷积神经网络(CNN)相关知识以及数学推导
万事OK自学网:51自学网_软件自学网_CAD自学网自学excel、自学PS、自学CAD、自学C语言、自学css3实例,是一个通过网络自主学习工作技能的自学平台,网友喜欢的软件自学网站。